CEO i Anthropic të garës së AI: “Duhet të ngadalësojmë”

Dario Amodei propozon një plan me tre hapa për të ngadalësuar zhvillimin e AI-së më të avancuar dhe për t'i dhënë kohë sigurisë që të ecë në të njëjtin ritëm.

Gara për të krijuar modelet më të fuqishme të inteligjencës artificiale po përballet me një thirrje të pazakontë nga vetë industria: të ngadalësojë ritmin.

Dario Amodei, CEO i Anthropic, ka publikuar një plan për atë që e quan “pacing the frontier” – një përpjekje për të frenuar ritmin e përmirësimit të modeleve më të avancuara, pa ndalur zhvillimin e AI-së.

Sipas Amodei, problemi është se aftësitë e AI-së po përparojnë më shpejt se masat e sigurisë. Modelet po bëhen më të afta në kodim, kërkim dhe kryerjen e detyrave në mënyrë autonome, ndërsa studiuesit ende po përpiqen të kuptojnë dhe kontrollojnë disa prej sjelljeve të tyre.

Plani i Amodei-t mbështetet në tre hapa. I pari është krijimi i vlerësuesve të pavarur të sigurisë. Anthropic është zotuar t’u japë këtyre ekspertëve akses të përhershëm dhe në nivel punonjësi brenda kompanisë, në mënyrë që ata të mund të kontrollojnë masat e sigurisë dhe të raportojnë problemet pa pasur nevojë për miratim editorial nga kompania.

Hapi i dytë është që kompanitë kryesore të AI-së në vendet demokratike të bien dakord për standarde të përbashkëta sigurie. Ideja është që një kompani të mos detyrohet të marrë më shumë rrezik vetëm sepse rivalët po ecin më shpejt. Hapi i tretë është edhe më ambicioz: bashkëpunimi ndërkombëtar, përfshirë edhe vende me sisteme politike shumë të ndryshme. Amodei argumenton se disa rreziqe të AI-së nuk mund të menaxhohen nga një shtet i vetëm.

Thirrja e tij ka marrë mbështetje nga figura të rëndësishme të industrisë. CEO i OpenAI, Sam Altman, tha se është dakord që zhvillimi i modeleve më të avancuara duhet të ecë me një ritëm më të kontrolluar dhe se OpenAI do të zbatojë gjithashtu një masë me vlerësues të jashtëm. Megjithatë, problemi kryesor mbetet konkurrenca. Kompanitë kanë investuar miliarda dollarë në AI dhe ngadalësimi i garës mund të ketë pasoja të mëdha biznesi dhe gjeopolitike, veçanërisht në konkurrencën me Kinën. Amodei nuk po kërkon që AI të ndalet. Ai po kërkon që njerëzit të fitojnë pak kohë përpara se teknologjia të bëhet shumë më e fuqishme se sa masat e sigurisë që kemi sot.