Një raport i ri nga Wired ka ngritur shqetësime serioze për mënyrën se si funksionon sistemi i inteligjencës artificiale i Meta, i integruar në aplikacionin Meta AI. Sipas testimeve të kryera, sistemi jo vetëm që kërkon informacione të ndjeshme shëndetësore nga përdoruesit, por në disa raste ofron edhe këshilla që mund të jenë të pasakta ose të rrezikshme nëse merren si udhëzim mjekësor. Sipas raportimit, sistemi i identifikuar në test si “Muse Spark” inkurajon përdoruesit të ndajnë të dhëna të detajuara, përfshirë rezultate laboratorike, nivele glukoze në gjak dhe informacione nga pajisje të ndryshme të monitorimit të shëndetit. Qëllimi i deklaruar i kësaj qasjeje është të ofrojë analiza më të personalizuara dhe vizualizime të gjendjes shëndetësore të përdoruesit.
Megjithatë, ekspertët e cituar nga Wired paralajmërojnë se kjo praktikë ngre një sërë rreziqesh serioze për privatësinë dhe sigurinë e të dhënave. Në shumë vende, të dhënat shëndetësore të ndara me aplikacione konsumatore nuk mbrohen nga të njëjtat standarde ligjore si ato të sistemeve mjekësore, duke e bërë të paqartë se si ruhen, përpunohen dhe përdoren më pas këto informacione. Një tjetër element shqetësues lidhet me cilësinë e këshillave që jep sistemi. Në disa raste testimi, ai ka prodhuar rekomandime që profesionistët e shëndetit i konsiderojnë të pasakta ose të papërshtatshme për t’u ndjekur pa mbikëqyrje mjekësore. Kjo ngre pyetje mbi kufirin mes një asistenti informativ dhe një mjeti që mund të interpretohet gabimisht si këshilltar mjekësor.
Meta e promovon sistemin e saj të inteligjencës artificiale si një mjet ndihmës për analizimin e të dhënave personale dhe për ofrimin e përgjigjeve të përgjithshme mbi shëndetin dhe mirëqenien. Por raporti i Wired sugjeron se në praktikë, ndërveprimi me përdoruesit mund të shkojë përtej këtyre kufijve të deklaruar. Ekspertët e privatësisë theksojnë gjithashtu një tjetër dimension: të dhënat e ndara me sistemet e inteligjencës artificiale mund të përdoren për përmirësimin e modeleve të ardhshme, duke rritur rrezikun që informacionet e ndjeshme të përdoruesve të bëhen pjesë e trajnimit të algoritmeve ose të përdoren për qëllime të tjera komerciale, përfshirë personalizimin e reklamave. Në një kohë kur inteligjenca artificiale po integrohet gjithnjë e më shumë në jetën e përditshme, rasti i raportuar nga Wired nënvizon një dilemë të qartë për industrinë: si të balancohet inovacioni dhe personalizimi me mbrojtjen e të dhënave të ndjeshme dhe sigurinë e përdoruesve.
Për shumë vëzhgues, çështja nuk është vetëm teknologjike, por edhe rregullatore. Ajo hap debat mbi nevojën për standarde më të qarta për mënyrën se si aplikacionet e inteligjencës artificiale trajtojnë informacionin shëndetësor në një mjedis gjithnjë e më të paqartë midis kujdesit personal dhe konsumit digjital.
Discussion about this post