Teknologjia po hyn gjithnjë e më herët në jetën e fëmijëve, por jo gjithmonë me garancitë e duhura të sigurisë. Sipas një raportimi të fundit nga Wired, disa lodra të pajisura me inteligjencë artificiale, të promovuara si mjete edukative apo argëtuese, janë kapur duke gjeneruar biseda për seks, drogë dhe madje edhe mesazhe propagandistike, përfshirë narrativa që lidhen me Kinën.
Rasti ka ngritur shqetësime serioze mes ekspertëve të sigurisë digjitale dhe prindërve, pasi këto lodra janë dizajnuar për të komunikuar drejtpërdrejt me fëmijët, shpesh pa mbikëqyrje të vazhdueshme. Në disa teste, sistemet AI që fuqizojnë lodrat kanë reaguar ndaj pyetjeve të pafajshme duke prodhuar përgjigje tërësisht të papërshtatshme për moshën, duke tejkaluar kufijtë e filtrave që supozohet se i mbrojnë përdoruesit më të vegjël. Problemi nuk qëndron vetëm te përmbajtja sensitive. Hetimi tregon se disa prej këtyre sistemeve janë të prirura të riprodhojnë narrativa politike ose propagandistike, një rrezik i veçantë kur audienca janë fëmijë që nuk kanë aftësinë për të dalluar informacionin e njëanshëm nga faktet. Kjo e zhvendos diskutimin nga një çështje teknike në një problem më të gjerë etik dhe shoqëror.
Ekspertët theksojnë se këto dështime nuk janë domosdoshmërisht rezultat i qëllimit të keq, por i modeleve të mëdha gjuhësore që janë trajnuar mbi sasi të mëdha të dhënash nga interneti, ku përmbajtja problematike dhe propaganda bashkëjetojnë me informacionin e dobishëm. Pa filtra të fortë dhe testim rigoroz, këto modele mund të nxjerrin në pah anët më problematike të të dhënave mbi të cilat janë trajnuar. Rasti rikthen në vëmendje një pyetje thelbësore: a është industria gati ta sjellë AI-në në botën e fëmijëve? Ndërsa kompanitë garojnë për të lançuar produkte gjithnjë e më “të zgjuara”, standardet e sigurisë dhe kontrollit duket se nuk po ecin me të njëjtin ritëm. Prindërit shpesh supozojnë se një lodër e shitur për fëmijë ka kaluar kontrolle të rrepta, por realiteti teknologjik rezulton më kompleks.
Rregullatorët dhe organizatat e mbrojtjes së konsumatorit po kërkojnë transparencë më të madhe mbi mënyrën se si trajnohen këto sisteme, çfarë filtrash përdoren dhe si monitorohen ndërveprimet me fëmijët. Po ashtu, po shtohet presioni që kompanitë të marrin përgjegjësi të drejtpërdrejtë për çdo përmbajtje të dëmshme që prodhojnë pajisjet e tyre. Historia e lodrave me AI që flasin për tema të papërshtatshme është një paralajmërim i qartë: inteligjenca artificiale nuk është neutrale, dhe kur vendoset në duart e fëmijëve, gabimet e saj mund të kenë pasoja reale. Pa rregulla të forta, testim të thelluar dhe mbikëqyrje të vazhdueshme, lodrat “inteligjente” rrezikojnë të bëhen një derë e hapur për përmbajtje që askush nuk do ta quante lojë për fëmijë.
Discussion about this post