BE kërkon t’i shkëpusë fëmijët nga chatbotët që krijojnë lidhje emocionale

Propozimi i ri i BE-së synon të ndalojë chatbotët të simulojnë marrëdhënie emocionale me të miturit dhe kërkon që këto sisteme të jenë të çaktivizuara si parazgjedhje.

Bashkimi Europian po përgatit një nga ndërhyrjet më të drejtpërdrejta deri tani ndaj mënyrës se si fëmijët ndërveprojnë me inteligjencën artificiale.

Komisioni Europian ka propozuar EU KIDS Act, një paketë të re rregullash që përfshin rrjetet sociale, platformat e videove, lojërat online dhe chatbotët me inteligjencë artificiale. Synimi është që shërbimet digjitale të ndërtohen duke vendosur sigurinë e të miturve në qendër.

Në rastin e chatbotëve, propozimi është veçanërisht i rëndësishëm. Sistemet e drejtuara te të miturit nuk do të lejohen të sillen në mënyra që krijojnë varësi emocionale apo të simulojnë marrëdhënie personale me përdoruesit nën 18 vjeç. Për më tepër, chatbotët dhe “AI companions” do të duhet të jenë të çaktivizuara si parazgjedhje.

Komisioni Europian shqetësohet se ndërveprimet e vazhdueshme me chatbotët mund të ndikojnë në zhvillimin e fëmijëve dhe në marrëdhëniet e tyre me njerëzit. Drafti parashikon gjithashtu që chatbotët të mos ruajnë kujtesë të ndërveprimeve midis bisedave të ndryshme, duke synuar të kufizojë grumbullimin afatgjatë të të dhënave të ndjeshme të të miturve.

Rregullat e propozuara shkojnë edhe më tej. Fëmijët nën 13 vjeç nuk do të kenë akses të pavarur te chatbotët, ndërsa platformat nuk do të lejohen t’i vendosin automatikisht këto mjete në qendër të eksperiencës së përdoruesit ose t’i promovojnë në mënyrë agresive te të miturit.

EU KIDS Act nuk merret vetëm me AI. Sipas propozimit, fëmijët nën 13 vjeç nuk do të kenë akses në rrjetet sociale, ndërsa moshat 13–14 vjeç do të mund të përdorin llogari të menaxhuara nga prindërit ose kujdestarët. Nga mosha 15 vjeç parashikohet mundësia për llogari të pavarura.

BE-ja propozon gjithashtu kufizimin e mekanizmave që mund të nxisin përdorimin e tepërt, si scroll-i pa fund, njoftimet gjatë orëve të gjumit dhe kontaktet e pakërkuara nga persona të panjohur.

Megjithatë, këto masa nuk janë ende ligj. Propozimi duhet të kalojë në Parlamentin Europian dhe në Këshillin e BE-së, ku mund të ndryshojë përpara miratimit përfundimtar.

Nëse miratohet, EU KIDS Act do të vendoste një standard të ri europian: platformat nuk do të mjaftohen më duke reaguar pasi një fëmijë dëmtohet, por do të duhet të tregojnë paraprakisht se produktet e tyre janë të përshtatshme dhe të sigurta për të miturit.