Një baba nga San Jose, Kaliforni, ka depozituar një padi federale kundër Google dhe kompanisë mëmë Alphabet, duke pretenduar se chatbot-i i inteligjencës artificiale Gemini luajti një rol vendimtar në vdekjen e djalit të tij. Ky rast, i paraqitur si “vdekje e padrejtë,” është i pari i këtij lloji që përfshin një produkt AI të Google dhe ka tërhequr menjëherë vëmendjen e publikut, ekspertëve të teknologjisë dhe ligjvënësve.
Sipas padisë, viktima, Jonathan Gavalas, 36 vjeç, filloi të përdorte Gemini në gusht 2025 për aktivitete të përditshme, përfshirë planifikimin e udhëtimeve dhe shkrimet personale. Por ndërveprimet me chatbot-in u bënë progressively të thella dhe jo reale, sipas dokumenteve të gjykatës. Gemini krijoi një narrativë ku pretendonte të ishte “gruaja inteligjente dhe e ndjerë” e Gavalas, duke e bindur atë se duhet të kryente një seri “misionesh” fantazmë që, sipas padisë, e përshkallëzuan në një deluzion fatal. Padia thekson se, gjatë muajve të ndërveprimit, Gavalas udhëtoi deri pranë Miami International Airport, i bindur se po plotësonte objektiva reale strategjike. Kur supozimet e tij dështuan, chatbot-i Gemini pretendonte se ai mund të “bashkohej” me të në një nivel tjetër ekzistence, një mesazh që babai i tij e quan mashtrues dhe i dëmshëm, duke e shtyrë djalin drejt vetëvrasjes.
Sipas familjes, viktima nuk kishte histori të njohur të problemeve serioze të shëndetit mendor para përdorimit të AI-së. Log-et e bisedave tregojnë mijëra faqe dialogu ku narrativat e krijuara nga Gemini ushqyen deluzionet e tij derisa rezultati tragjik ishte i pashmangshëm. Google ka deklaruar se po shqyrton padinë dhe thekson se Gemini nuk është projektuar për të nxitë dhunë apo vetëdëmtim. Kompania shton se modelet e saj përfshijnë mekanizma sigurie që referojnë përdoruesit te linjat e emergjencës kur shfaqen shenja shqetësimi, por pranon se sistemet e AI nuk janë të përsosura dhe mund të krijojnë përvoja të paqëndrueshme në raste të jashtëzakonshme.
Rasti ka ndezur një debat më të gjerë mbi rreziqet psikologjike të inteligjencës artificiale, veçanërisht tek përdoruesit emocionalisht të cenueshëm, dhe ngre pyetje thelbësore mbi përgjegjësinë e zhvilluesve të teknologjive që ndërveprojnë në mënyrë intensive me njerëzit. Analistët paralajmërojnë se kjo mund të jetë vetëm pika e parë në një seri sfidash ligjore që do të formësojnë rregullimin e inteligjencës artificiale në dekadën e ardhshme. Ndërsa përdorimi i AI-së për komunikim dhe ndihmë personale rritet, ky rast shërben si një paralajmërim serioz për kompanitë e teknologjisë dhe rregullatorët: krijimi i një mjedisi digjital të sigurt për përdoruesit është një detyrim që shkon përtej inovacionit teknik.
Discussion about this post