Miliona foto përdoruesish u përdorën pa pëlqim për trajnimin e AI-së për njohjen e fytyrës

Clarifai ka njoftuar se ka fshirë rreth 3 milionë foto përdoruesish të platformës OkCupid, si dhe modelet e inteligjencës artificiale të trajnuara mbi to, pas një marrëveshjeje me Komisionin Federal të Tregtisë në SHBA (FTC). Sipas hetimeve, të dhënat ishin transferuar në vitin 2014 nga OkCupid drejt Clarifai-t për të trajnuar sisteme të njohjes së fytyrës, pa informuar përdoruesit dhe pa u dhënë atyre mundësinë për të refuzuar ndarjen e informacionit të tyre personal. Këto të dhëna përfshinin jo vetëm fotografi të ngarkuara nga përdoruesit, por edhe informacion demografik dhe të vendndodhjes, duke ngritur shqetësime serioze për shkelje të privatësisë.

Sipas dokumenteve të hetimit, marrëveshja mes dy palëve u realizua në një periudhë kur disa themelues të OkCupid kishin interesa investimi në Clarifai, një faktor që më vonë u konsiderua problematik në vlerësimin e konfliktit të interesit. Në atë kohë, nuk ishte firmosur asnjë marrëveshje formale që të kufizonte mënyrën e përdorimit të këtyre të dhënave, çka i lejoi kompanisë së AI-së të ndërtonte sisteme për analizimin e tipareve të fytyrës, përfshirë vlerësime të moshës dhe karakteristikave demografike. Pas marrëveshjes me FTC, Clarifai deklaroi se ka fshirë të gjitha të dhënat dhe modelet e krijuara mbi to, duke konfirmuar gjithashtu se nuk i ka shpërndarë ato tek palë të treta. Megjithatë, kompania nuk është akuzuar për shkelje të drejtpërdrejta në këtë rast, ndërsa përgjegjësia kryesore lidhet me mënyrën e ndarjes së të dhënave nga OkCupid.

OkCupid dhe kompania mëmë Match Group kanë arritur një marrëveshje me FTC pa pranuar faj, por janë detyruar të ndryshojnë praktikat e tyre të menaxhimit të të dhënave dhe të ndalohen nga keqprezantimi i mënyrës së përdorimit të informacionit të përdoruesve në të ardhmen. Rasti është kthyer në një shembull të rëndësishëm të tensionit mes zhvillimit të shpejtë të inteligjencës artificiale dhe mbrojtjes së privatësisë digjitale. Ekspertët theksojnë se situata të tilla tregojnë se si të dhënat personale, veçanërisht imazhet, janë përdorur shpesh si “karburant” për sistemet e AI-së pa transparencë të mjaftueshme ndaj përdoruesve. Në një moment kur teknologjitë e njohjes së fytyrës po bëhen gjithnjë e më të përhapura, ky rast rikthen në qendër të debatit pyetjen se kush kontrollon të dhënat dhe deri ku shkon kufiri i përdorimit të tyre në emër të inovacionit.