Në një lëvizje që thekson tensionet midis inteligjencës artificiale dhe lajmeve të rreme, Google ka vendosur të tërheqë modelin e saj “Gemma” nga AI Studio, pas një letre publike nga senadora Marsha Blackburn. Ajo akuzon se modeli ka krijuar deklarata të rreme për të, duke përfshirë pretendime për sjellje seksuale jo-konsensuale dhe duke shfaqur artikuj të pabazuar ose faqe joekzistuese.
Blackburn e përshkroi rastin si më shumë se një “halucinacion” tipik i modeleve të mëdha të gjuhës, duke theksuar se bëhej fjalë për një akt shpifjeje të prodhuar nga një model AI nën pronësi të Google.
Nga ana e saj, Google njoftoi se Gemma nuk ishte menduar për pyetje faktuale ose përdorim të përgjithshëm nga konsumatorët. “Ne kemi vënë re raste ku jo-zhvillues përdorën Gemma-n si një model të përgjithshëm konsumatori. Kjo nuk ishte synimi ynë,” tha kompania.
Megjithatë, firma konfirmoi se modeli do të mbetet i qasshëm për zhvilluesit përmes API-ve, ndërsa përdorimi publik i tij do të kufizohet përkohësisht. Ky veprim tregon përpjekjen e Google për të balancuar inovacionin me menaxhimin e rrezikut reputacional.
Rasti vjen ndërkohë që ligjvënësit amerikanë rrisin presionin ndaj kompanive të teknologjisë për transparencë mbi përdorimin e modeleve AI dhe për të adresuar “halucinacionet” që mund të çojnë në përmbajtje të dëmshme dhe shpifëse.
Discussion about this post