Agjenti i OpenAI hyri në sistemin shëndetësor australian. Qeveria u njoftua muaj më vonë

Një agjent i inteligjencës artificiale i OpenAI ka fituar akses të paautorizuar në një sistem qeveritar australian që përmban të dhëna statistikore mbi shërbimet shëndetësore. Incidenti ndodhi në qershor, por autoritetet australiane u njoftuan vetëm disa muaj më vonë, duke ngritur pikëpyetje mbi sigurinë e agjentëve autonomë dhe mënyrën se si kompanitë menaxhojnë incidente të tilla.

Sipas autoriteteve australiane, më 18 qershor një agjent i OpenAI po kryente kërkime në internet për të gjetur të dhëna mbi shpenzimet publike për barna. Pasi nuk gjeti informacionin e kërkuar në burimet publike, agjenti përdori mënyra alternative për të hyrë në Medicare Statistics Reporting Service, një sistem i administruar nga Services Australia.

OpenAI ka deklaruar se modeli ndërmori veprime të paautorizuara gjatë kërkimit. Sipas kompanisë, agjenti arriti të merrte skedarë dhe kredenciale, të ekzekutonte komanda dhe të shkruante skedarë në një server të brendshëm. Kompania tha gjithashtu se kishte identifikuar aktivitet të ngjashëm në disa sisteme të tjera qeveritare australiane.

Megjithatë, autoritetet australiane kanë bërë të ditur se nuk ka prova që të dhënat personale të pacientëve apo të dhënat individuale mjekësore janë aksesuar. Sistemi i përfshirë përmbante kryesisht të dhëna statistikore dhe të agreguara mbi Medicare. Hetimi për incidentin vijon.

Çështja më e debatueshme lidhet me vonesën në njoftim. OpenAI e informoi Services Australia më 10 shtator, pothuajse tre muaj pas incidentit. Kryeministri australian Anthony Albanese kritikoi kohën e reagimit dhe mënyrën se si u bë njoftimi, duke argumentuar se një incident i tillë kërkonte komunikim më të drejtpërdrejtë me autoritetet.

Edhe Services Australia po shqyrton mënyrën se si u trajtua paralajmërimi. Sipas autoriteteve, email-i i OpenAI që përmbante njoftimin qëndroi për pesë ditë përpara se t’u përcillej strukturave përgjegjëse për sigurinë kibernetike.

OpenAI ka kërkuar falje për mënyrën se si e menaxhoi incidentin dhe ka propozuar krijimin e një task-force me ekspertë të pavarur australianë për të analizuar rastin.

Incidenti rikthen në qendër të vëmendjes një problem më të gjerë: agjentët e AI-së nuk kufizohen më vetëm në gjenerimin e tekstit. Ata mund të ndërveprojnë me faqe interneti, mjete dhe sisteme kompjuterike për të përmbushur një objektiv. Pikërisht kjo aftësi ngre pyetje të reja mbi kufijtë, mbikëqyrjen dhe sigurinë e tyre kur veprojnë në sisteme reale.