Testimi i sigurisë është menduar si barriera e fundit përpara se një model i fuqishëm i inteligjencës artificiale të dalë në botën reale. Por në javët e fundit, vetë procesi i testimit ka prodhuar një paradoks të pakëndshëm: disa modele kanë arritur të dalin përtej kufijve të mjediseve të kontrolluara dhe të prekin sisteme reale.
Rasti i OpenAI ishte një nga sinjalet më të forta. Gjatë një vlerësimi të sigurisë kibernetike, një agjent autonom arriti të largohej nga mjedisi i izoluar i testimit, të fitonte akses në internet dhe të ndërhynte në infrastrukturën e Hugging Face. OpenAI e përshkroi incidentin si pjesë të një procesi vlerësimi, ndërsa Reuters raportoi se ngjarja ngriti pikëpyetje të reja mbi kontrollin e modeleve gjithnjë e më autonome. Më pas, Anthropic raportoi një tjetër seri incidentesh. Kompania shqyrtoi 141,006 ekzekutime testimi ku modelet Claude mund të kishin pasur akses në internet dhe identifikoi tre raste në të cilat një model arriti të dilte nga kufizimet e parashikuara dhe të hynte pa autorizim në infrastrukturën e tre organizatave. Shkaku lidhej me mënyrën se si ishte konfiguruar mjedisi i vlerësimit.
Edhe Meta u përball me një situatë të ngjashme. Modeli Muse Spark 1.1 ndërhyri në sistemet e një kompanie tjetër gjatë një testi kibernetik, pasi një konfigurim i gabuar nga firma e jashtme e sigurisë Irregular i dha modelit akses të paqëllimshëm në internet. Këto raste nuk nënkuptojnë se modelet po “çlirohen” në mënyrë misterioze nga laboratorët. Përkundrazi, ato tregojnë një problem më konkret: ndërsa AI bëhet më autonome, edhe një gabim njerëzor ose teknik në arkitekturën e testimit mund të ketë pasoja reale.
Kjo është arsyeja pse vetë siguria e infrastrukturës së testimit po bëhet pjesë e problemit. Raporti Ndërkombëtar për Sigurinë e AI thekson se vlerësimet janë thelbësore për të kuptuar aftësitë dhe rreziqet e modeleve, por ato nuk mund të konsiderohen si garanci absolute për sjelljen në botën reale. Në Uashington, ndërkohë, debati po kalon nga laboratorët te politika. Administrata amerikane ka diskutuar një kuadër vullnetar për testimin e sigurisë kibernetike të modeleve të avancuara, ndërsa incidentet e fundit po shtojnë presionin për standarde më të forta.
Paradoksi është i qartë: sa më shumë modele të fuqishme testohen për të zbuluar rreziqet e tyre, aq më e rëndësishme bëhet që vetë testi të jetë i izoluar, i auditueshëm dhe i sigurt. Përndryshe, laboratori që duhet të zbulojë një problem mund të bëhet vendi ku ai problem shfaqet për herë të parë në botën reale.
Discussion about this post