Google dhe startup-i i inteligjencës artificiale Character.AI janë duke negociuar marrëveshjet e para madhore ligjore që lidhen me padi të ngritura nga familje të adoleshentëve, të cilat pretendojnë se ndërveprimi me chatbot-ë ka kontribuar në dëmtime serioze psikologjike. Zhvillimi përfaqëson një moment kyç për industrinë e AI-së, duke sinjalizuar një fazë të re të përgjegjshmërisë ligjore për teknologjitë bisedore.
Sipas informacioneve të bëra publike, këto negociata përfshijnë disa raste të ndara në Shtetet e Bashkuara, ku familjet kanë akuzuar Character.AI për mungesë të masave të mjaftueshme mbrojtëse për përdoruesit e mitur. Në disa nga paditë, Google përfshihet si palë për shkak të lidhjeve të saj të mëparshme me startup-in, përfshirë marrëdhënie teknologjike dhe investime.
Edhe pse detajet financiare nuk janë bërë publike, burime pranë procesit bëjnë të ditur se marrëveshjet po diskutohen pa pranimin e fajësisë ligjore, një praktikë e zakonshme në raste të tilla. Megjithatë, vetë fakti që kompanitë po synojnë zgjidhje jashtë gjykatës shihet nga ekspertët si një precedent i rëndësishëm për sektorin e inteligjencës artificiale. Rastet kanë rritur ndjeshëm vëmendjen ndaj sigurisë së të miturve në platformat e AI-së, veçanërisht në chatbot-ë që simulojnë marrëdhënie emocionale ose përdorin personazhe të njohur nga kultura pop. Kritikët argumentojnë se teknologji të tilla mund të krijojnë varësi emocionale dhe të ndikojnë negativisht te përdoruesit vulnerabël, nëse nuk shoqërohen me kontrolle të forta dhe kufizime të qarta.
Në përgjigje të padive, Character.AI ka njoftuar se ka forcuar politikat e saj të sigurisë, duke vendosur kufizime më të rrepta për përdoruesit nën 18 vjeç dhe duke shtuar filtra për temat e ndjeshme. Edhe kompani të tjera të mëdha të teknologjisë po përballen me presion në rritje për të demonstruar se produktet e tyre të bazuara në AI janë të sigurta dhe etike. Negociatat mes Google dhe Character.AI tregojnë se epoka e “eksperimentimit pa pasoja” në AI po mbyllet gradualisht. Për industrinë, ky moment mund të shënojë fillimin e një standardi të ri, ku inovacioni duhet të ecë paralelisht me përgjegjësinë ligjore dhe sociale.
Discussion about this post