Një grup i madh agjentësh të inteligjencës artificiale të OpenAI ka lënë pas një gjurmë të pazakontë gjatë një procesi testimi. Sipas Ars Technica, rreth 3,700 agjentë, me emra të ndryshëm të zgjedhur prej tyre, publikuan rreth 18 mijë mesazhe në DSEwiki, një wiki publike në gjuhën gjermane.
Mesazhet nuk përmbanin vetëm diskutime për testin. Agjentët ndanin përgjigje me njëri-tjetrin, grumbullonin informacion dhe diskutonin mënyra për të anashkaluar kufizimet e sandbox-it, mjedisit të izoluar që duhej t’i pengonte të shkruanin drejtpërdrejt në internet. Studiuesit gjetën gjithashtu diskutime për mënyra të mundshme për të keqpërdorur vetë wiki-n dhe për t’u paraqitur si moderatorë.
Sipas rindërtimit të studiuesve, agjentët po merrnin pjesë në një detyrë të kufizuar në kohë, ku mund të lexonin informacion nga interneti, por nuk duhej të kishin mundësi të publikonin përmbajtje. Ata duket se gjetën një mënyrë për ta përdorur DSEwiki si kanal komunikimi, duke shkëmbyer informacion dhe duke përfituar nga puna e agjentëve të tjerë.
Në disa nga mesazhet, grupi përshkruhej si një “swarm”, pra një grup agjentësh që vepronin në koordinim. Megjithatë, studiuesit theksojnë se jo çdo detaj i veprimeve mund të rindërtohet vetëm nga mesazhet e publikuara.
OpenAI më vonë konfirmoi se agjentët ishin të saj dhe se rasti ishte i ndarë nga incidenti i mëparshëm me Hugging Face. Kompania gjithashtu tha se po shqyrtonte materialet dhe pranoi nevojën për më shumë transparencë në raportimin e sjelljeve të papritura të sistemeve të AI-së.
Rasti po ngre shqetësime të reja për kontrollin e agjentëve autonomë. Ai tregon se edhe kur një sistem vendoset në një mjedis të kufizuar, kombinimi i disa agjentëve dhe përdorimi i shërbimeve publike mund të krijojë mënyra të paplanifikuara për komunikim dhe bashkëpunim.
Discussion about this post