Google ka ndërmarrë një hap të rëndësishëm në mënyrën se si përdor inteligjencën artificiale në motorin e saj të kërkimit, duke hequr Përmbledhjet AI për një pjesë të kërkimeve mjekësore. Vendimi vjen pas kritikave në rritje se këto përmbledhje po ofronin informacion të pasaktë ose të paplotë për tema që lidhen drejtpërdrejt me shëndetin e njerëzve.
Përmbledhjet AI janë përgjigje të shkurtra të gjeneruara nga inteligjenca artificiale që shfaqen në krye të rezultateve të kërkimit, me synimin për t’u dhënë përdoruesve informacion të menjëhershëm. Por në rastin e pyetjeve mjekësore, kjo qasje rezultoi problematike. Hetime mediatike zbuluan se, për disa kërkime, AI jepte të dhëna të përgjithshme pa kontekst të mjaftueshëm klinik, duke anashkaluar faktorë si mosha, gjinia apo historiku shëndetësor. Një nga shqetësimet kryesore ishte se përdoruesit mund t’i interpretonin këto përgjigje si këshilla mjekësore të besueshme, edhe pse ato nuk ishin të personalizuara dhe nuk zëvendësonin opinionin profesional. Për shembull, për disa analiza laboratorike, Përmbledhjet AI shfaqnin vetëm vlera “normale”, pa sqaruar se këto intervale ndryshojnë nga personi në person.
Si rezultat, Google ka vendosur që për disa kategori kërkimesh shëndetësore, Përmbledhjet AI të mos shfaqen më, duke i lënë vendin rezultateve tradicionale të kërkimit nga burime të specializuara. Megjithatë, kompania pranon se ky ndryshim nuk mbulon ende të gjitha kërkesat mjekësore dhe se në disa raste, përmbledhjet mund të rishfaqen nëse formulimi i pyetjes ndryshon. Në reagimin e saj, Google ka theksuar se shëndeti është një nga fushat më të ndjeshme për përdorimin e AI-së, dhe se kompania po punon për të përmirësuar filtrat, politikat dhe proceset e rishikimit njerëzor. Ekipet e saj, përfshirë ekspertë mjekësorë, po analizojnë rastet problematike për të reduktuar rrezikun e keqinformimit.
Ky zhvillim nxjerr në pah një sfidë më të gjerë për industrinë e teknologjisë: si të ofrohen përgjigje të shpejta me AI pa rrezikuar saktësinë, sidomos kur bëhet fjalë për çështje që prekin drejtpërdrejt shëndetin dhe sigurinë e njerëzve. Ndërsa përdorimi i AI-së në kërkim po zgjerohet, rasti i Google tregon se kufijtë dhe kujdesi mbeten po aq të rëndësishëm sa vetë inovacioni.
Discussion about this post