Anthropic ka nisur një ndryshim që mund ta bëjë shumë më të vështirë përdorimin e Claude pa treguar se pas tekstit qëndron inteligjenca artificiale. Kompania ka prezantuar një sistem watermark-u të padukshëm, i integruar në tekstet e gjeneruara nga modelet e saj, duke krijuar një lloj gjurme dixhitale që mund të identifikohet më vonë.
Teknologjia nuk shfaq një simbol apo shënim të dukshëm në tekst. Në vend të kësaj, sistemi ndërhyn në mënyrën se si modeli zgjedh fjalët gjatë gjenerimit, duke krijuar modele statistikore që mund të përdoren për të përcaktuar nëse një tekst është prodhuar nga Claude. Anthropic ka thënë se synon të ofrojë edhe mjete për zbulimin e këtyre watermark-eve.
Ndryshimi lidhet me kërkesat e reja europiane për transparencën e përmbajtjes së krijuar nga AI. Neni 50 i Aktit të BE-së për Inteligjencën Artificiale kërkon që përmbajtja e krijuar ose e manipuluar nga AI të jetë e identifikueshme në mënyrë të lexueshme nga makineritë. Anthropic po e aplikon teknologjinë globalisht, jo vetëm për përdoruesit europianë.
Por për disa përdorues, kjo transparencë ka një kosto. Personat që përdorin Claude për të shkruar detyra, raporte apo materiale pune mund të shqetësohen se përdorimi i tyre i AI-së do të bëhet më i lehtë për t’u zbuluar. Pikërisht ky është një nga arsyet që vendimi ka shkaktuar reagime në komunitetin e përdoruesve.
Anthropic pranon gjithashtu se sistemi nuk është i pagabueshëm. Një tekst i shkurtër mund të mos përmbajë mjaftueshëm informacion për të krijuar një watermark të besueshëm, ndërsa përmbajtja e cituar ose e përpunuar nga Claude mund të shkaktojë identifikime të gabuara. Po ashtu, mungesa e një watermark-u nuk provon automatikisht se një tekst është shkruar nga njeriu. Kjo e zhvendos debatin e AI-së në një terren të ri: jo vetëm çfarë mund të prodhojë një chatbot, por edhe nëse mund të lërë pas një gjurmë që tregon se e ka prodhuar atë.
Discussion about this post