Raportime e fundit tregojnë se një numër përdoruesish po përpiqen të keqpërdorin mjete të avancuara të gjenerimit të videove me inteligjencë artificiale për të prodhuar përmbajtje thellësisht problematike që përfshin figura të miturish të krijuara nga AI. Në qendër të shqetësimeve është Sora 2, mjeti i ri për video nga OpenAI, i cili synon krijimin kreativ dhe profesional, por po përballet me tentativa abuzimi jashtë qëllimit të tij.
Sipas raportimit, këto përpjekje shfrytëzojnë boshllëqe në moderimin e përmbajtjes dhe sSora 2hpërndahen më pas në platforma të tjera, duke e bërë zbulimin dhe ndalimin më të vështirë. Edhe kur materialet janë qartësisht të gjeneruara dhe jo reale, ekspertët paralajmërojnë se dëmi social dhe rreziku për normalizim mbeten serioze, veçanërisht kur bëhet fjalë për të miturit. Organizata që merren me sigurinë në internet theksojnë se përmbajtja e tillë, pavarësisht natyrës artificiale, mund të kontribuojë në kultura abuzive dhe të nxisë sjellje të rrezikshme. Në këtë kontekst, rritja e materialeve problematike të gjeneruara nga AI po shton presionin mbi zhvilluesit e teknologjisë që të forcojnë mekanizmat e parandalimit.
OpenAI ka deklaruar se Sora 2 përfshin politika strikte dhe filtra që ndalojnë çdo përmbajtje që shfrytëzon ose dëmton fëmijët, si dhe mjete të gjurmueshmërisë për të identifikuar materialet e gjeneruara. Megjithatë, kritikët argumentojnë se masat aktuale nuk mjaftojnë kur përmbajtja qarkullon jashtë platformës origjinale dhe kërkojnë kontrolle më proaktive, bashkëpunim ndër-platformor dhe reagim më të shpejtë. Debati po zgjerohet edhe në nivel rregullator. Ligjvënës dhe organizata të shoqërisë civile kërkojnë standarde më të qarta dhe përgjegjësi më të forta për kompanitë që zhvillojnë mjete të fuqishme të gjenerimit vizual. Qëllimi është të ruhet inovacioni pa cenuar sigurinë publike dhe, mbi të gjitha, mbrojtja e të miturve.
Rasti i Sora 2 nënvizon një realitet të ri: ndërsa AI po transformon krijimtarinë, rreziku i keqpërdorimit kërkon po aq shpejtësi në etikë, moderim dhe zbatim. Pa këto, përparimi teknologjik rrezikon të shoqërohet me pasoja të rënda shoqërore.
Discussion about this post