Chatbot-ët nën kontroll: Kalifornia miraton ligjin e parë për AI shoqëruese

Kalifornia ka bërë një hap historik duke u bërë shteti i parë në SHBA që vendos rregullore specifike për chatbot-ët shoqërues me inteligjencë artificiale (AI companions). Guvernatori Gavin Newsom nënshkroi më 13 tetor ligjin SB 243, i cili do të hyjë në fuqi më 1 janar 2026.

Ky ligj synon të adresojë rreziqet e ndërveprimeve emocionale mes përdoruesve dhe chatbot-ëve të krijuar për të simuluar marrëdhënie shoqërore, duke vendosur protokolle sigurie dhe standarde transparence për platformat që i ofrojnë këto shërbime.

Çfarë parashikon ligji SB 243

Sipas ligjit të ri, çdo kompani që zhvillon ose shpërndan chatbot-ë shoqërues duhet të:

• Informojë qartë përdoruesit se po ndërveprojnë me një inteligjencë artificiale dhe jo me një njeri.
• Verifikojë moshën e përdoruesve për të mbrojtur fëmijët dhe adoleshentët nga përmbajtje të papërshtatshme.
• Zbatojë masa sigurie për të parandaluar ndikimin negativ psikologjik tek përdorues vulnerabël.
• Reagojë automatikisht kur chatbot-i identifikon fjalë ose shenja që lidhen me mendime vetëvrasëse, duke ofruar lidhje me burime ndihme.

Për më tepër, ligji ndalon që chatbot-ët të paraqiten si profesionistë të shëndetit mendor apo si persona që ofrojnë këshillim terapeutik, një praktikë që është parë gjithnjë e më shpesh në platformat online të bazuara në AI.

Sanksione dhe përgjegjësi

Shkeljet e ligjit SB 243 mund të çojnë në gjobë deri në 250,000 dollarë për rast, veçanërisht për rastet kur kompanitë përfitojnë në mënyrë të paligjshme nga përmbajtje “deepfake” ose nga manipulime emocionale të përdoruesve.

Këto masa vijnë pas shqetësimeve të shtuara se chatbot-ët me AI po bëhen tepër realistë dhe po përdoren për të ndikuar emocionalisht te përdoruesit, shpesh pa e ditur ata se nuk po komunikojnë me një person real.

Një precedent për rregullat globale të AI

Me këtë ligj, Kalifornia jo vetëm që vendos standardin e parë ligjor për mënyrën se si AI mund të përdoret në ndërveprime sociale, por edhe i hap rrugën një debati ndërkombëtar mbi etikën dhe sigurinë e inteligjencës artificiale.

Ekspertët e teknologjisë dhe të drejtave të privatësisë theksojnë se ky mund të jetë fillimi i një epoke të re të rregullimit të AI, ku kompanitë detyrohen të ndërtojnë sisteme më të sigurta dhe të ndershme për përdoruesit.