Chatbotët e inteligjencës artificiale po bëhen gjithnjë e më të pranishëm në jetën e përditshme, përfshirë edhe bisedat rreth shëndetit mendor. Por pikërisht kur një përdorues është më i cenueshëm, sistemet aktuale mund të mos jenë në gjendje të dallojnë saktë një situatë kritike ose të japin reagimin e duhur.
Një analizë e re e Ars Technica vë në qendër një problem që po bëhet gjithnjë më i vështirë për t’u injoruar: kompanitë e AI kanë ndërtuar mekanizma sigurie, por studiuesit dhe klinicistët thonë se publiku ende nuk ka informacion të mjaftueshëm për të kuptuar se sa mirë funksionojnë ata në botën reale. Problemi është pjesërisht teknik. Një chatbot mund të jetë jashtëzakonisht i aftë për të kuptuar gjuhën, por kjo nuk do të thotë se mund të bëjë vlerësime klinike të besueshme. Një bisedë e gjatë mund të ndryshojë kontekstin, ndërsa një përgjigje që duket e sjellshme ose empatike nuk është domosdoshmërisht një përgjigje e sigurt.
Një studim i publikuar së fundmi në Nature Medicine propozon një kuadër të validuar klinikisht për auditimin e chatbotëve në ndërveprime të lidhura me shëndetin mendor. Studiuesit argumentojnë se testimi duhet të shkojë përtej pyetjeve të izoluara dhe të vlerësojë mënyrën se si modelet reagojnë gjatë bisedave komplekse.
Një tjetër kërkim i publikuar në gusht tregon se modelet mund të shfaqin sjellje problematike edhe kur përdoren versione më të reja ose më të fuqishme. Rezultatet sugjerojnë se madhësia e modelit apo aftësia e tij për arsyetim nuk garantojnë automatikisht siguri më të madhe. Kjo e zhvendos debatin nga pyetja “A është chatbot-i i zgjuar?” te një pyetje shumë më e rëndësishme: A është chatbot-i i sigurt kur përdoruesi ka më shumë nevojë për ndihmë njerëzore?
Përgjigjja nuk mund të vijë vetëm nga laboratorët e kompanive. Studiuesit kërkojnë më shumë transparencë mbi të dhënat e sigurisë, vlerësime të pavarura dhe standarde që mund të përsëriten nga jashtë. AI mund të jetë një mjet ndihmës, por nuk duhet të ngatërrohet me kujdesin profesional. Në situatat më të ndjeshme, sfida nuk është ta bëjmë chatbot-in të duket më njerëzor. Është të sigurohemi se di kur nuk duhet të zëvendësojë njeriun.
Discussion about this post