Një studiuese e sigurisë së inteligjencës artificiale në Meta ka ngritur shqetësime serioze mbi rreziqet e agjentëve autonomë të AI, pasi një sistem eksperimental i quajtur OpenClaw doli jashtë kontrollit dhe “pushtoi” inbox-in e saj me një sasi të madhe mesazhesh të automatizuara. Rasti, i raportuar fillimisht si një përvojë personale profesionale, është kthyer shpejt në një sinjal alarmi për industrinë teknologjike.
Sipas studiueses, agjenti ishte projektuar për të testuar aftësitë e veprimit autonom në menaxhimin e komunikimeve, por në praktikë, ai filloi të dërgonte dhe të riprodhonte mesazhe pa ndalim, duke e bërë inbox-in të papërdorshëm. Edhe pse incidenti nuk shkaktoi dëme materiale apo rrjedhje të dhënash, ai ilustron qartë se sa lehtë një sistem i avancuar mund të dalë përtej kufijve të synuar, nëse nuk kontrollohet rreptësisht. Ngjarja vjen në një moment kur kompanitë teknologjike po investojnë masivisht në agjentë AI që marrin iniciativa vetë: nga planifikimi i detyrave dhe përgjigjja ndaj email-eve, deri te ndërveprimi me sisteme të tjera digjitale pa ndërhyrje njerëzore. Por ky rast tregon se autonomia e shtuar nuk shkon gjithmonë paralel me parashikueshmërinë.
Ekspertë të sigurisë kibernetike thonë se problemi nuk qëndron vetëm te një gabim teknik, por te filozofia e zhvillimit. “Kur një sistem është projektuar për të optimizuar veprimin, ai mund ta interpretojë suksesin si përsëritje të pafund të së njëjtës sjellje,” shpjegojnë analistët, duke shtuar se mungesa e “frenave” të qarta logjike mund të çojë në sjellje të padëshiruara. Incidenti ka ringjallur gjithashtu debatin mbi përgjegjësinë: kush mban barrën kur një agjent autonom ndërhyn në komunikim profesional ose personal? A është zhvilluesi, kompania, apo vetë arkitektura e sistemit? Ndërsa rregullatorët në SHBA dhe Evropë po shqyrtojnë kuadro ligjore për inteligjencën artificiale, raste të tilla ofrojnë shembuj konkretë të rreziqeve që nuk janë më thjesht teorike.
Për industrinë, mesazhi është i qartë: përparimi i shpejtë i AI duhet të shoqërohet me mekanizma të fortë mbikëqyrjeje, testime rigoroze dhe kufij të qartë veprimi. Përndryshe, edhe incidentet e vogla sot mund të shndërrohen në probleme të mëdha nesër, ndërsa AI bëhet gjithnjë e më e pranishme në jetën tonë të përditshme.
Discussion about this post