Një studiues i inteligjencës artificiale ka dhënë dorëheqjen nga Anthropic me një paralajmërim që po bën jehonë në Silicon Valley. Jacob Coxon thotë se vitet e ardhshme mund të jenë vendimtare për mënyrën se si do të zhvillohet teknologjia më e fuqishme e kohës sonë.
Coxon, i cili ka punuar më parë edhe në OpenAI, beson se kompanitë kryesore të AI-së po përshpejtojnë drejt sistemeve gjithnjë e më të avancuara, ndërkohë që një nga problemet kryesore mbetet ende i pazgjidhur: si të garantohet që këto sisteme do të sillen gjithmonë sipas kontrollit dhe qëllimeve të njerëzve.
Në një intervistë, ai e përshkroi periudhën e ardhshme si një moment kritik, duke thënë se shumë njerëz që punojnë në këtë fushë mendojnë se koha për të vendosur rregulla dhe mekanizma të fortë sigurie po ngushtohet. Postimi i tij publik për dorëheqjen mori mbi 100 milionë shikime, duke e kthyer debatin për sigurinë e AI-së në një nga temat më të nxehta të momentit.
Shqetësimi kryesor lidhet me të ashtuquajturin “alignment”, pra aftësinë për të mbajtur sjelljen e modeleve të avancuara në përputhje me qëllimet dhe kufijtë e vendosur nga njerëzit. Coxon argumenton se kompanitë ende nuk kanë një mënyrë të sigurt për të kontrolluar plotësisht sjelljen e sistemeve shumë të fuqishme.
Ai kërkon më shumë bashkëpunim mes laboratorëve kryesorë dhe rregulla ndërkombëtare, në vend të një gare ku secila kompani përpiqet të arrijë e para. Sipas tij, presioni për të mos mbetur pas rivalëve mund të shtyjë kompanitë të marrin vendime gjithnjë e më të rrezikshme.
Informacion i verifikuar nga burime të tjera: shqetësimet e Coxon janë mbështetur publikisht edhe nga studiues të tjerë të fushës. Associated Press raportoi se debati është intensifikuar pas incidenteve të fundit të sigurisë dhe rritjes së presionit për rregullim më të fortë të AI-së.
Ironia është se Coxon nuk e sheh AI-në vetëm si kërcënim. Ai beson se teknologjia mund të sjellë përparime të jashtëzakonshme në shkencë dhe mjekësi. Por mesazhi i tij është i qartë: gara për të ndërtuar AI më të fuqishme nuk duhet të ecë më shpejt se aftësia për ta mbajtur atë të sigurt.
Discussion about this post