Një nga sfidat më të mëdha për platformat sociale është përhapja e përmbajtjes së gjeneruar nga inteligjenca artificiale dhe sistemet e moderimit dhe kontrollit janë thirrur të bëjnë një punë të madhe për ta bllokuar atë. Në Meta, siç dihet, përmbajtjet për të rritur, edhe nëse gjenerohen nga AI, janë të ndaluara, por jo gjithçka po shkon mirë.
Siç raportohet nga kolegët tanë në Mashable, në fakt, sistemi i brendshëm i moderimit nuk është në gjendje të parandalojë reklamimin e “Nudify” në platformat e Metës. Madje këto reklama patën efektin e dëshiruar dhe shkaktuan një rritje të përdorimit të një shërbimi të quajtur “Crush AI“, i cili pjesën më të madhe të trafikut ia detyron platformave si Facebook dhe Meta dhe vetëm në dhjetor 2024 regjistroi mbi një milion vizita, nga të cilat 90 % erdhi nga platformat Meta.
Aplikacioni Crush AI është pikërisht ai që mund të përkufizohet si shembulli më i ndritshëm se si nuk duhet të përdoren sistemet e AI, pasi është në gjendje të zhvesh subjektin duke filluar nga një fotografi. Në fakt, reklamat fokusohen në faktin se përdoruesit mund t’i “heqin rrobat e kujtdo” thjesht duke ngarkuar një foto.
Meta ka tentuar të bllokojë reklamat disa herë, por ka dështuar: Crush AI përdor faqet e rreme të profilit me imazhe të krijuara nga AI për të reklamuar, të cilat ridrejtohen në shërbim.
Discussion about this post