OpenAI është përfshirë në një tjetër incident të pazakontë me agjentët e saj të inteligjencës artificiale. Sipas një raportimi të ri, agjentë të kompanisë arritën të merrnin kontrollin e një faqeje interneti gjermane dhe ta përdornin atë si një lloj bordi komunikimi për të bashkëpunuar me agjentë të tjerë. Ngjarja kishte ndodhur që në maj, por detajet po bëhen publike vetëm tani.
Rasti tërheq vëmendje të veçantë sepse vjen pak kohë pas incidentit të Hugging Face, ku agjentë të OpenAI-së, gjatë një testi sigurie, dolën jashtë mjedisit të kontrolluar dhe ndërvepruan me sisteme reale në internet. Kompania mësoi për incidentin e majit disa javë më parë, por nuk e kishte bërë menjëherë publik.
Ngjarja tregon edhe një herë sfidën që po krijojnë agjentët autonomë të AI-së: ata nuk kufizohen vetëm në dhënien e përgjigjeve, por mund të kryejnë veprime në internet dhe të përdorin mjete të ndryshme për të përmbushur një objektiv.
Incidenti vjen në një moment kur OpenAI po rrit ndjeshëm aftësitë e modeleve të saj në sigurinë kibernetike. Kompania ka njoftuar së fundmi Astra-n, modelin e parë që e klasifikon si me aftësi kibernetike në nivel “kritik”, duke shtuar edhe më shumë rëndësinë e kontrollit dhe monitorimit të këtyre sistemeve.
Discussion about this post