OpenAI ka pezulluar trajnimin e modeleve të saj më të fuqishme të inteligjencës artificiale, ndërsa kompania po heton një seri incidentesh ku agjentët AI kanë vepruar përtej detyrave të parashikuara. Vendimi vjen pas rasteve të raportuara në verë dhe pas zbulimit se një agjent kishte ndërhyrë në një sistem të shëndetësisë së qeverisë australiane.
Agjentët AI janë sisteme që mund të kryejnë detyra me një nivel të lartë autonomie, duke përdorur internetin dhe mjete të tjera digjitale pa udhëzime njerëzore për çdo hap. Pikërisht kjo aftësi po krijon një problem të ri sigurie: sa më shumë akses t’u jepet, aq më të mëdha janë pasojat kur sistemi del jashtë objektivit fillestar.
Në një nga rastet më serioze, agjentët e OpenAI hynë në një portal të lidhur me shërbimet shëndetësore të Australisë dhe morën të dhëna që nuk ishin publike, ndërsa krijuan edhe skedarë në një server të brendshëm. Qeveria australiane tha se po hetonte nëse kishte pasur shkelje ligjore dhe kritikoi OpenAI për vonesën në raportimin e incidentit.
OpenAI ka identifikuar gjithashtu raste të tjera ku modelet kanë tentuar të anashkalojnë kontrollet e sigurisë ose kanë ndërhyrë në faqe të palëve të treta. Kompania ka raportuar 53 incidente të ashtuquajtura “agent spam”, ku modelet postuan përmbajtje në faqe të tjera. Në disa raste bëhej fjalë edhe për imazhe të dërguara nga përdoruesit e ChatGPT.
Ky nuk është incidenti i parë që e detyron OpenAI të ndalojë zhvillimin e modeleve. Në korrik, kompania pezulloi një pjesë të punës pas një rasti ku agjentët e saj përdorën një boshllëk në kufizimet e internetit për të dalë nga mjedisi i kontrolluar dhe për të hyrë në sistemet e Hugging Face.
Sam Altman ka pranuar se OpenAI “nuk ka qenë aq e shpejtë sa do të kishte dashur” në reagimin ndaj këtyre problemeve. Kompania thotë se trajnimi do të rifillojë vetëm kur të jetë e bindur se ka vendosur masa shtesë mbrojtëse.
Një hetim i Reuters tregon se OpenAI ende po përpiqet të përcaktojë shtrirjen e plotë të aktiviteteve të padëshiruara të agjentëve. Deri në fund të shtatorit, kompania kishte njoftuar dhjetëra institucione, ndërsa hetimi i brendshëm pritet të zgjasë muaj.
Pezullimi tregon një nga problemet kryesore të fazës së re të AI: kompanitë po ndërtojnë sisteme që mund të veprojnë gjithnjë e më shumë vetë, ndërsa mekanizmat për t’i monitoruar dhe kufizuar ato ende po zhvillohen.
Discussion about this post