Dy avokatë amerikanë kanë kërkuar falje publikisht pasi paraqitën në gjykatë citime të rreme të krijuara nga modeli AI Claude i Anthropic, në një proces gjyqësor që lidhet me shkarkimet masive të punonjësve federalë gjatë administratës së Donald Trump. Gabimi u zbulua pasi gjykata identifikoi referenca dhe citime juridike që nuk ekzistonin realisht.
Dokumentet ishin dorëzuar në kuadër të një padie që sfidon shkarkimet e punonjësve federalë dhe përfshinin argumente ligjore të mbështetura pjesërisht nga kërkime të kryera me Claude. Megjithatë, modeli AI kishte “halucinuar” citime dhe referenca juridike, duke krijuar materiale që dukeshin autentike por nuk ekzistonin në jurisprudencë reale. Në deklarimet e tyre, avokatët thanë se përdorimi i AI ishte bërë për të përshpejtuar kërkimin ligjor dhe jo për të mashtruar gjykatën. Ata pranuan se nuk kishin verifikuar siç duhet materialet përpara dorëzimit dhe kërkuan ndjesë për gabimin. Incidenti është një tjetër shembull i problemeve që po krijohen nga përdorimi i chatbot-ëve në profesionin ligjor. Në vitet e fundit, disa avokatë në SHBA janë përballur me sanksione pasi përdorën raste gjyqësore të fabrikuara nga ChatGPT apo modele të tjera AI në dokumente zyrtare.
Ekspertët ligjorë paralajmërojnë se modelet AI mund të jenë të dobishme për kërkime paraprake, por nuk mund të trajtohen si burime të besueshme pa verifikim njerëzor. Problemi i “halucinimeve”, kur AI shpik informacione që tingëllojnë bindëse, mbetet një nga dobësitë më të mëdha të teknologjisë aktuale. Ndërsa firmat ligjore po eksperimentojnë gjithnjë e më shumë me AI, incidenti po përdoret si kujtesë se automatizimi nuk e eliminon përgjegjësinë profesionale në sistemin e drejtësisë.
Discussion about this post