OpenAI ka raportuar një rritje të konsiderueshme të sinjalizimeve për sigurinë e fëmijëve gjatë gjysmës së parë të vitit 2025. Kompania ka dërguar dhjetëra mijëra njoftime te National Center for Missing & Exploited Children (NCMEC), një nivel shumë herë më i lartë krahasuar me të njëjtën periudhë të një viti më parë.
NCMEC është institucioni i autorizuar në SHBA për të mbledhur dhe përcjellë te autoritetet përkatëse sinjalizime që lidhen me përmbajtje të dëmshme për të miturit. Sipas OpenAI, rritja e shifrave nuk nënkupton domosdoshmërisht një rritje të aktivitetit kriminal, por lidhet kryesisht me përmirësimin e sistemeve të zbulimit dhe raportimit, si dhe me zgjerimin e produkteve që përdorin AI. Kompania shpjegon se gjatë fundit të vitit 2024 dhe në fillim të 2025-ës ka investuar në mekanizma më të ndjeshëm moderimi, duke përfshirë analiza më të hollësishme të përmbajtjes dhe procese më të automatizuara raportimi. Paralelisht, përdorimi i shërbimeve të saj është rritur ndjeshëm, veçanërisht pas shtimit të funksioneve vizuale dhe rritjes së bazës së përdoruesve aktivë, çka ka sjellë edhe më shumë raste për t’u shqyrtuar.
Raporti vë në dukje gjithashtu një trend më të gjerë në industrinë e teknologjisë, ku kompanitë po përballen me rritje të detyrimeve për mbrojtjen e të miturve në internet. Të dhënat e NCMEC tregojnë se raportimet në nivel kombëtar kanë shënuar rritje të fortë vitet e fundit, pjesërisht për shkak të përhapjes së mjeteve gjeneruese të AI-së dhe nevojës për kontrolle më të forta. OpenAI thekson se po vazhdon të forcojë politikat e saj të sigurisë, duke përfshirë udhëzime më të qarta për përdoruesit e rinj, bashkëpunim me organizata të sigurisë së fëmijëve dhe transparencë më të madhe në raportim. Mesazhi i kompanisë është se rritja e shifrave tregon një zbulim dhe reagim më të mirë, jo domosdoshmërisht një përkeqësim të situatës.
Në një mjedis digjital që po evoluon me shpejtësi, rasti nënvizon rëndësinë e moderimit proaktiv dhe bashkëpunimit institucional për të mbrojtur fëmijët në epokën e inteligjencës artificiale.
Discussion about this post