Një studim i fundit nga Universiteti i Pensilvanisë ka zbuluar se përdoruesit e inteligjencës artificiale janë tepër të gatshëm të besojnë modelet gjuhësore të mëdha (LLM), madje edhe kur informacioni që marrin është i pasaktë. Ky fenomen, i quajtur nga studiuesit “dorëzim kognitiv”, tregon se njerëzit shpesh pranojnë përgjigjet e AI-së pa i shqyrtuar kritike, duke lënë vend për gabime në vendimmarrje dhe ulje të angazhimit të tyre analitik.
Hulumtimi përdori një seri teste të reflektimit kognitiv për të matur se sa pjesëmarrësit ishin të gatshëm të sfidonin informacionin e gabuar. Një grup përdoruesish iu dha akses në një chatbot bazuar në LLM, i cili rastësisht jepte përgjigje të sakta ose të pasakta për gjysmën e pyetjeve. Rezultatet ishin shqetësuese: përdoruesit pranuan përgjigjet e pasakta rreth 80% të kohës, ndërsa vetëm një pjesë e vogël e tyre, rreth 20%, sfiduan informacionin e gabuar. Studiuesit e shohin këtë si tregues të humbjes së kontrollit të individit mbi procesin e mendimit dhe një prirjeje për të besuar automatikisht autoritetin e AI-së. Një faktor kryesor që ndikon në këtë sjellje është bindja e përdoruesve në saktësinë dhe besueshmërinë e AI-së. Sa më bindëse të duket një përgjigje automatike, aq më shumë njerëzit janë të prirur ta marrin atë si të vërtetë. Nga ana tjetër, përdoruesit me aftësi të forta analitike kanë më shumë gjasa të sfidonin përgjigjet e pasakta. Pjesëmarrësit që morën stimuj të jashtëm, si shpërblime për përgjigjet e sakta ose presion kohor, treguan se këto nxisin ose frenojnë shqyrtimin kritik në mënyra të ndryshme.
Ekspertët theksojnë se, megjithëse modelet gjuhësore mund të jenë mjaft të dobishme për analizat komplekse dhe vendimmarrjen probabilistike, besimi i pakritikueshëm mund të ketë pasoja serioze. “Dorëzimi kognitiv” është një shqetësim i ri që nxjerr në pah tensionin midis përdorimit efikas të AI-së dhe ruajtjes së pavarësisë mendore dhe aftësisë njerëzore për të menduar në mënyrë kritike. Hulumtimi nxit nevojën për edukim më të mirë mbi përdorimin e AI-së dhe për krijimin e strategjive që forcojnë angazhimin kritik të përdoruesve. Pa masa të tilla, ekspertët paralajmërojnë se përdorimi masiv i AI-së mund të çojë në një shoqëri ku vendimet dhe opinioni publik janë shumë më të ndikuar nga automatikja sesa nga mendimi i vetëdijshëm.
Discussion about this post