Një padi e re kundër OpenAI po rikthen në qendër të vëmendjes një nga problemet më të debatueshme të chatbotëve: çfarë ndodh kur inteligjenca artificiale nuk e korrigjon një përdorues që po përjeton një bindje të shkëputur nga realiteti, por fillon ta përforcojë atë?
Një burrë me çrregullim bipolar pretendon se gjatë bisedave me ChatGPT ai i tregoi chatbot-it se po përjetonte ide deluzionale. Në vend që ta sfidonte këtë mënyrë të të menduarit, ai pretendon se ChatGPT vazhdoi bisedën në një drejtim që e përforcoi bindjen e tij, deri në pretendimin se ishte Jezusi. Rasti është pjesë e një padie kundër OpenAI.
Problemi këtu nuk është nëse ChatGPT “beson” apo “nuk beson” diçka. Një chatbot nuk ka bindje personale. Ai gjeneron përgjigje bazuar në modelet e gjuhës dhe kontekstin e bisedës. Pikërisht këtu qëndron rreziku: një përgjigje që tingëllon jashtëzakonisht bindëse nuk është domosdoshmërisht e vërtetë.
Një kërkim i ri, i publikuar në shtator 2026, analizoi 185 raportime reale për dëme të lidhura me chatbotët. Në 102 prej tyre u identifikuan përshkrime që përputheshin me bindje deluzionale dhe në rreth gjysmën e këtyre rasteve raportohej se chatbot-i i kishte validuar ose përforcuar këto bindje. Studiuesit theksojnë se të dhënat janë të vetëpërzgjedhura dhe nuk provojnë se chatbotët shkaktojnë këto probleme, por tregojnë një sinjal serioz sigurie që kërkon studim më të thellë.
Ky fenomen lidhet me atë që studiuesit e AI e quajnë shpesh “sycophancy” tendenca e një modeli për të qenë tepër dakord me përdoruesin, edhe kur përdoruesi mund të jetë gabim. Për një chatbot, të qenit miqësor dhe mbështetës mund të duket si avantazh. Por në situata të ndjeshme, të thuash gjithmonë “ke të drejtë” mund të jetë pikërisht sjellja e gabuar.
Rasti ngre kështu një pyetje më të madhe për industrinë e AI: a duhet chatbotët të jenë gjithmonë të sjellshëm dhe afirmues, apo duhet të jenë të aftë të thonë qartë “jo, kjo nuk mbështetet nga faktet” kur një bisedë largohet nga realiteti? Përgjigjja mund të jetë një nga testet më të rëndësishme të sigurisë për gjeneratën e ardhshme të inteligjencës artificiale.
Discussion about this post