Kompania amerikane e inteligjencës artificiale Anthropic ka vendosur të kufizojë aksesin në modelin e saj më të ri dhe më të avancuar, të njohur si “Mythos”, duke ngritur shqetësime të reja mbi rreziqet që lidhen me fuqinë në rritje të AI në fushën e sigurisë kibernetike.
Modeli, i prezantuar si pjesë e një iniciative të re për sigurinë dixhitale, nuk do të jetë i disponueshëm për publikun e gjerë. Në vend të kësaj, ai po u jepet vetëm një grupi të kufizuar organizatash të përzgjedhura, përfshirë kompani të mëdha teknologjike dhe institucione që operojnë në sektorë kritikë. Sipas raportimeve, “Mythos” përfaqëson një hap të madh përpara në aftësitë e inteligjencës artificiale për të analizuar kodin dhe për të identifikuar dobësi në sisteme softuerike. Modeli ka qenë në gjendje të zbulojë mijëra vulnerabilitete, përfshirë edhe defekte të panjohura më parë në sisteme operative dhe shfletues të përdorur gjerësisht.
Megjithatë, pikërisht kjo fuqi është arsyeja pse kompania ka zgjedhur një qasje të kujdesshme. Ekspertët paralajmërojnë se një teknologji e tillë mund të përdoret jo vetëm për të përmirësuar mbrojtjen kibernetike, por edhe për të zhvilluar sulme më të sofistikuara. Në disa raste testimi, modeli ka treguar aftësi për të krijuar dhe shfrytëzuar dobësi në mënyrë të automatizuar, duke ulur ndjeshëm barrierat për aktorët keqdashës. Për këtë arsye, Anthropic ka integruar “Mythos” në një projekt të quajtur “Glasswing”, një iniciativë që synon të përdorë AI për të identifikuar dhe korrigjuar dobësitë në softuerët kritikë përpara se ato të shfrytëzohen nga sulmuesit. Ky model bashkëpunimi synon të forcojë mbrojtjen kolektive në një kohë kur kërcënimet kibernetike janë në rritje.
Vendimi për të kufizuar aksesin reflekton një trend më të gjerë në industrinë e inteligjencës artificiale, ku kompanitë po përballen me dilema të reja etike dhe praktike: si të balancohet inovacioni me sigurinë. Ndërsa modelet bëhen gjithnjë e më të fuqishme, rreziku i keqpërdorimit rritet proporcionalisht, duke kërkuar masa më të forta kontrolli. Në këtë kontekst, “Mythos” shihet si një paralajmërim për fazën e re në të cilën po hyn zhvillimi i AI. Teknologjia që mund të ndihmojë në mbrojtjen e sistemeve dixhitale është, njëkohësisht, e aftë të zbulojë mënyra të reja për t’i sulmuar ato. Për industrinë dhe qeveritë, sfida nuk është më vetëm ndërtimi i sistemeve më të avancuara, por sigurimi që ato të përdoren në mënyrë të kontrolluar dhe të përgjegjshme.
Discussion about this post