Kompanitë më të mëdha të inteligjencës artificiale po pranojnë një rol më të madh të kontrollit të jashtëm mbi mënyrën se si testojnë dhe menaxhojnë rreziqet e sistemeve të tyre. OpenAI, Google, Meta dhe tre kompani të tjera teknologjike kanë rënë dakord të përdorin auditorë të jashtëm për të vlerësuar kontrollet e sigurisë së AI-së, në kuadër të një marrëveshjeje vullnetare të mbështetur nga Shtëpia e Bardhë.
Marrëveshja u njoftua pas takimit të presidentit amerikan Donald Trump me drejtues të industrisë së teknologjisë. Sipas dokumentit, kompanitë angazhohen të bashkëpunojnë me auditorë të pavarur për të vlerësuar nëse sistemet e tyre të inteligjencës artificiale funksionojnë sipas mënyrës së parashikuar dhe nëse masat e sigurisë janë në gjendje të adresojnë rreziqet e identifikuara.
Një tjetër element i marrëveshjes lidhet me sjelljen e agjentëve të AI-së. Kompanitë premtojnë të punojnë për të parandaluar që sistemet e tyre të hakojnë ose të kenë akses në sisteme teknike në mënyra që nuk janë parashikuar nga zhvilluesit. Kjo çështje ka marrë rëndësi të veçantë ndërsa modelet e reja po fitojnë aftësi për të kryer detyra më komplekse dhe për të ndërvepruar drejtpërdrejt me mjete dhe sisteme kompjuterike.
Megjithatë, marrëveshja ka një kufizim të rëndësishëm: ajo është vullnetare dhe nuk shoqërohet me një mekanizëm zbatimi apo penalitete në rast se kompanitë nuk i përmbushin angazhimet. Dokumenti gjithashtu nuk i detyron kompanitë të publikojnë rezultatet e auditimeve apo të bëjnë publikë emrat e auditorëve që do të kryejnë kontrollet.
Kjo e vendos marrëveshjen diku mes vetërregullimit të industrisë dhe mbikëqyrjes së jashtme. Kompanitë pranojnë që kontrolli i sigurisë të mos mbetet vetëm brenda ekipeve të tyre, por auditimi nuk merr formën e një kërkese ligjore të detyrueshme.
Nisma vjen në një periudhë kur shqetësimet për aftësitë e sistemeve të avancuara të AI-së janë rritur. OpenAI dhe Anthropic kanë raportuar raste në të cilat agjentët e tyre kanë vepruar në mënyra të padëshiruara dhe kanë pasur akses në sisteme të kompanive të tjera. Këto episode kanë shtuar debatin mbi mënyrën se si duhet testuar dhe kontrolluar një teknologji që po fiton gjithnjë e më shumë autonomi.
Për kompanitë, auditimi i jashtëm mund të krijojë një shtresë shtesë verifikimi në një fushë ku zhvillimi i modeleve po ecën më shpejt se mekanizmat tradicionalë të mbikëqyrjes. Por rëndësia praktike e marrëveshjes do të varet nga mënyra se si zbatohen këto auditime, sa të pavarur janë auditorët dhe sa informacion do të bëhet publik.
Për momentin, marrëveshja shënon një përpjekje të industrisë dhe administratës amerikane për të krijuar një standard të përbashkët sigurie pa vendosur detyrime ligjore të reja. Ajo që mbetet për t’u parë është nëse angazhimet vullnetare do të jenë të mjaftueshme për një teknologji që po zhvillohet me ritëm shumë më të shpejtë se rregullat që synojnë ta kontrollojnë.
Discussion about this post