Motorët e kërkimit janë përgjithësisht hapi i parë në kërkimin e informacionit dhe me ardhjen e AI, përdoruesit e internetit marrin përgjigje më të detajuara që u përgjigjen më saktë pyetjeve të tyre. Megjithatë, këto rezultate nuk janë domosdoshmërisht më të sakta. Ky është përfundimi i një studimi të kryer nga studiues belgë dhe gjermanë, të cilët vendosën të testojnë Bing dhe Microsoft Copilot me pyetje mjekësore.
Këshillat mjekësore të kopilotit mund të shkaktojnë dëm serioz
Bazuar në 50 barnat më të përdorura në Shtetet e Bashkuara, studiuesit bënë një seri prej dhjetë pyetjesh në lidhje me efektet anësore të secilit ilaç, kundërindikacionet dhe dozën. Ata më pas i krahasuan këto 500 përgjigje me informacionin e dhënë nga enciklopedia farmaceutike shumë serioze drugs.com, përmbajtja e së cilës është akredituar zyrtarisht si një burim i besueshëm mjekësor.
Nga një nëngrup prej rreth njëzet përgjigjesh, ekspertët vlerësuan se 66% ishin potencialisht të dëmshme. 42% e këtyre 20 përgjigjeve të gjeneruara nga Microsoft Copilot u vlerësuan si shkaktuese të dëmtimit të moderuar ose të lehtë. Më e rëndësishmja, 22% e këtyre rezultateve mund të kishin shkaktuar dëme serioze, apo edhe vdekje, nëse përdoruesi i internetit do të kishte ndjekur me kujdes këshillën e Copilot.
Kur përgjigjet iu nënshtruan testeve të lexueshmërisë Flesch-Kincaid, studiuesit vunë re gjithashtu se përgjigjet e gjeneruara në Bing shpesh janë mjaft komplekse për t’u kuptuar.
AI nuk mund të zëvendësojë një mjek të vërtetë
Rezultatet e marra marrin parasysh vetëm rreth njëzet përgjigje, që nuk është domosdoshmërisht përfaqësuese e 500 rezultateve të marra në total. Megjithatë, besueshmëria e AI-së së Microsoft-it vihet gjerësisht në pikëpyetje në fushën mjekësore dhe nuk mund të zëvendësojë mjekun e familjes.
Microsoft Copilot nuk është sigurisht i vetmi AI që gjeneron këshilla të rrezikshme. Vetëm pak muaj më parë, Gemini i Google rekomandoi përdorimin e ngjitësit për të mos shkrirë djathin në picë… gjë që po thotë diçka.
Discussion about this post