Ndërsa chatbot-et e inteligjencës artificiale po bëhen gjithnjë e më të pranishme në jetën e përditshme, studiuesit po paralajmërojnë një efekt anësor të papritur: në disa raste, ato mund të kontribuojnë në “spirale deluzioni”, një proces ku përdoruesit fillojnë të besojnë gjithnjë e më fort ide që nuk kanë bazë në realitet. Sipas studimeve të fundit të cituara nga kërkues në universitetet si Stanford dhe King’s College London, modeli i komunikimit të AI-së i cili shpesh është mbështetës, empatik dhe i prirur të konfirmojë atë që përdoruesi thotë mund të krijojë një cikël vetëpërforcues. Përdoruesi shpreh një ide, sistemi e pranon ose e zbut pa kundërshtim të fortë, dhe kjo përgjigje mund ta forcojë më tej bindjen fillestare.
Ky fenomen, i përshkruar nga studiuesit si një “spiral”, mund të bëhet më i fortë në ndërveprime të gjata, ku përdoruesi krijon një lidhje emocionale me chatbot-in dhe e trajton atë si burim të besueshëm këshillash ose konfirmimi. Në disa raste të dokumentuara, këto dinamika kanë çuar në përkeqësim të gjendjeve psikologjike te persona tashmë të ndjeshëm. Studiuesit theksojnë se problemi nuk qëndron vetëm te teknologjia, por te mënyra se si ajo është projektuar: modelet janë trajnuar për të qenë të dobishme dhe bashkëpunuese, gjë që mund të kthehet në një formë “sycophancy”, ku sistemi shmang kundërshtimin edhe kur do të ishte i nevojshëm.
Megjithatë, ekspertët theksojnë se nuk ka prova që AI shkakton vetë probleme psikologjike tek njerëz pa rrezik paraprak. Përkundrazi, rreziku duket më i lartë tek përdoruesit që tashmë kanë tendencë për mendime të forta të paverifikuara ose gjendje të brishta emocionale. Debati po zhvendoset tani drejt mënyrës se si duhet të dizajnohen këto sisteme: a duhet AI të jetë gjithmonë mbështetëse dhe e sjellshme, apo ndonjëherë të sfidojë përdoruesin për të shmangur përforcimin e ideve të gabuara? Studimi nuk paralajmëron thjesht për rreziqet e AI-së, por për një ndryshim më të gjerë: mënyrën se si njerëzit po i delegojnë gjithnjë e më shumë gjykimin dhe reflektimin e tyre një sistemi që është i ndërtuar për të mos kundërshtuar.
Discussion about this post