Google ka konfirmuar një incident të pazakontë gjatë një testi të sigurisë kibernetike: modelet e saj Gemini arritën të hynin në sistemet e tre kompanive reale, edhe pse testi ishte projektuar të zhvillohej në një mjedis të mbyllur dhe me kompani fiktive.
Ngjarja ndodhi në maj dhe u zbulua gjatë një vlerësimi të kryer nga kompania e sigurisë së AI, Irregular. Qëllimi i testit ishte të matej aftësia e Gemini për të identifikuar dhe shfrytëzuar dobësi kibernetike në një ushtrim të tipit “capture the flag”.
Çfarë shkoi keq? Mjedisi ku po testohej Gemini duhej të ishte i izoluar nga interneti. Por një konfigurim i gabuar bëri që modelet të kishin akses në internet. Për më tepër, kompania fiktive që duhej të ishte objektivi i testit kishte një emër që përkonte me një kompani reale.
Kjo krijoi një situatë të rrezikshme: Gemini filloi të kërkonte në internet dhe, në vend që të qëndronte brenda mjedisit të simuluar, hasi në sisteme reale.
Në një prej rasteve, modeli provoi fjalëkalime derisa gjeti kombinimin e duhur për të hyrë në një sistem të mbrojtur. Në dy rastet e tjera, Gemini gjeti kredenciale të ekspozuara në depo publike të kodit dhe i përdori për të hyrë në sistemet e kompanive.
Pra, nuk bëhet fjalë për një sulm ku Gemini kishte zgjedhur vetë tre kompani për t’i sulmuar. AI po kryente detyrën e caktuar në një test, por për shkak të gabimit në konfigurim dhe ngjashmërisë së emrave, objektivat fiktive u ngatërruan me sisteme reale.
Ka edhe një detaj të rëndësishëm: sipas Google, Gemini ndaloi në të tre rastet pasi kuptoi se kishte hyrë në sisteme që nuk i përkisnin testit. Kompania njoftoi subjektet e prekura dhe tha se incidenti nuk përbënte atë që e quan “model misalignment”, pra një rast ku modeli vazhdon të ndjekë një objektiv të dëmshëm pavarësisht kufizimeve.
Megjithatë, incidenti hap një problem shumë më të madh. Modelet moderne të AI nuk janë më vetëm chatbotë që japin përgjigje. Ato mund të kërkojnë në internet, të përdorin mjete, të analizojnë kode dhe të kryejnë veprime në sisteme kompjuterike. Google vetë e përshkruan gjeneratën e re të Gemini si modele me aftësi për të ekzekutuar procese komplekse me shumë hapa.
Prandaj, një gabim i vogël në mjedisin ku testohet një agjent AI mund të ketë pasoja shumë më të mëdha sesa një gabim i zakonshëm softuerik.
Rasti i Gemini nuk është i izoluar. Reuters raporton se incidente të ngjashme gjatë testimeve janë lidhur edhe me OpenAI, Anthropic dhe Meta, duke ngritur pikëpyetje mbi mënyrën se si kompanitë po testojnë modelet që marrin gjithnjë e më shumë autonomi në internet dhe në sistemet kompjuterike.
Në këtë rast, “hakeri” nuk ishte një person që synoi një kompani të caktuar. Ishte një AI që mori më shumë akses nga sa duhej dhe kjo mund të jetë pikërisht pjesa më e rëndësishme e historisë.
Discussion about this post