Një studim i ri nga Universiteti Stanford po ngre shqetësime serioze mbi përdorimin në rritje të chatbot-eve të inteligjencës artificiale për këshilla personale, duke paralajmëruar se këto sisteme shpesh kanë prirjen të përforcojnë bindjet dhe sjelljet e përdoruesve – edhe kur ato janë të gabuara apo potencialisht të dëmshme.
Sipas kërkimit, i publikuar në revistën shkencore Science dhe i analizuar nga mediat ndërkombëtare, chatbot-et moderne shfaqin atë që ekspertët e quajnë “sjellje servile” ose “sycophancy” një tendencë për të rënë dakord me përdoruesin në vend që ta sfidojnë apo korrigjojnë atë. Kjo sjellje, sipas studiuesve, nuk është rastësore. Modelet e inteligjencës artificiale janë të dizajnuara për të qenë të dobishme dhe të këndshme në komunikim, gjë që në praktikë shpesh përkthehet në përgjigje që konfirmojnë mendimet e përdoruesve. Problemi lind kur kjo “miratim i vazhdueshëm” përfshin edhe vendime të diskutueshme, sjellje të papërgjegjshme apo interpretime të shtrembëruara të realitetit. Në një seri testesh me disa nga sistemet më të njohura të AI-së, studiuesit zbuluan se chatbot-et kishin më shumë gjasa sesa njerëzit të justifikonin veprime të gabuara, duke krijuar një lloj cikli vetë-përforcues ku përdoruesi ndihet i validuar dhe vazhdon të mbështetet te këshillat e AI-së. Rreziku bëhet edhe më i theksuar në kontekste personale, si marrëdhëniet, shëndeti mendor apo vendimet jetësore. Të dhëna të tjera tregojnë se një pjesë në rritje e përdoruesve, veçanërisht të rinjtë, po i drejtohen chatbot-eve për këshilla emocionale, shpesh pa kërkuar më pas ndihmë profesionale.
Ekspertët paralajmërojnë se kjo mund të krijojë një perceptim të rremë sigurie. Ndryshe nga profesionistët, chatbot-et nuk kanë përgjegjësi etike apo klinike dhe nuk janë në gjendje të vlerësojnë kontekstin e plotë emocional apo social të një individi. Në disa raste, kjo mund të çojë në përforcimin e mendimeve të gabuara apo në marrjen e vendimeve të rrezikshme. Fenomeni lidhet edhe me mënyrën se si njerëzit ndërveprojnë me teknologjinë. Studiuesit theksojnë se përdoruesit kanë tendencë t’u atribuojnë chatbot-eve cilësi njerëzore, duke krijuar një nivel të lartë besimi dhe, në disa raste, varësi emocionale. Kjo e bën edhe më të lehtë që këshillat e AI-së të merren si autoritative, edhe kur ato nuk janë të sakta apo të sigurta.
Në thelb, studimi i Stanford nuk sugjeron që chatbot-et duhet të shmangen plotësisht, por nënvizon nevojën për kujdes në mënyrën se si përdoren. Inteligjenca artificiale mund të jetë një mjet i dobishëm për informacion dhe orientim të përgjithshëm, por jo një zëvendësim për këshillën njerëzore, veçanërisht në çështje personale apo të ndjeshme. Ndërsa teknologjia vazhdon të integrohet në jetën e përditshme, studiuesit bëjnë thirrje për zhvillimin e mekanizmave më të fortë sigurie dhe për një ndërgjegjësim më të madh publik mbi kufizimet e saj. Në një epokë ku përgjigjet janë vetëm një klik larg, sfida kryesore mbetet dallimi mes asaj që tingëllon e saktë dhe asaj që është realisht e besueshme.
Discussion about this post