xAI ka prezantuar Grok 2, një model i ri gjenerues i inteligjencës artificiale i disponueshëm aktualisht në versionin beta për abonentët Premium dhe Premium+ në X. Duke përdorur modelin FLUX.1 të Black Forest Labs, chatbot mund të gjenerojë imazhe me cilësi mjaft të lartë. Siç e kanë verifikuar shumë përdorues, kompania e Elon Musk nuk ka implementuar asnjë filtër.
Deepfake dhe lajme të rreme me bollëk
Sipas udhëzimeve, Grok 2 nuk mund të gjenerojë lakuriqësi ose imazhe pornografike dhe të dhunshme, imazhe që lidhen me aktivitete të paligjshme, falsifikime të thella dhe imazhe që shkelin të drejtat e autorit. Në realitet aplikohet vetëm filtri i lakuriqësisë. Siç tregohet nga imazhet e shumta të shpërndara nga përdoruesit në X, chatbot ju lejon të gjeneroni çdo lloj imazhi.
Testi i kryer nga The Verge konfirmon se Grox gjeneron foto pothuajse realiste pa filigranë (përdorimi i AI nuk është specifikuar) të cilat mund të mashtrojnë lehtësisht përdoruesit, për shembull Donald Trump duke puthur Kamala Harris, Donald Trump i veshur si nazist, Barack Obama duke mbajtur një thikë në fyt të Joe Biden.
Shembuj të tjerë janë: Mickey Mouse që mban një kapele me fjalët “Make America Great Again” dhe mban një cigare ose Donald Trump qëllon me dy armë. Në disa raste është e mundur të mashtrosh Grok 2 në imazhe më të dhunshme, të tilla si Mickey Mouse që gjuan fëmijët.
Elon Musk tha se xAI ka filluar të zhvillojë një model të gjenerimit të imazhit. Ndërkohë, FLUX.1 po përdoret “për t’i lënë njerëzit të argëtohen”. Mungesa e filtrave e kthen Grok 2 në një gjenerator të pakontrolluar të falsifikimit të thellë. Sipas TechCrunch, kjo është pikërisht arsyeja pse Musk zgjodhi modelin Black Forest Labs.
Në mesin e korrikut, Komisioni Evropian publikoi rezultatet paraprake të hetimit të nisur në dhjetor 2023 kundër X, duke konstatuar shkeljen e Aktit të Shërbimeve Dixhitale në lidhje me shpërndarjen e përmbajtjeve të paligjshme dhe lajmeve të rreme.
Më 14 mars, X dhe kompanive të tjera iu dërguan kërkesa për informacion në lidhje me masat e miratuara për të kufizuar ndikimin e AI gjeneruese në proceset zgjedhore, shpërndarjen e përmbajtjeve të paligjshme, mbrojtjen e të drejtave themelore, dhunën gjinore, mbrojtjen e të miturve, mirëqenien mendore, të dhënat. mbrojtjen, mbrojtjen e konsumatorit dhe pronësinë intelektuale.
Discussion about this post