Debati për sigurinë e inteligjencës artificiale po hyn në një fazë të re. Pyetja nuk është më vetëm nëse modelet e avancuara mund të bëhen të rrezikshme, por edhe kush duhet të vendosë kufijtë e zhvillimit të tyre.
Gjatë javëve të fundit, drejtues të kompanive kryesore të AI kanë dhënë sinjale se ritmi aktual i zhvillimit mund të kërkojë më shumë masa sigurie. Dario Amodei i Anthropic ka propozuar që kompanitë të ngadalësojnë zhvillimin e modeleve frontier dhe të përdorin vlerësues të pavarur. Sam Altman i OpenAI dhe drejtues të tjerë të industrisë kanë shprehur mbështetje për disa prej këtyre ideve.
Në të njëjtën kohë, ekziston një pikëpamje tjetër: siguria mund të arrihet kryesisht përmes inxhinierisë dhe standardeve të industrisë, pa krijuar një sistem të gjerë rregullator. Jensen Huang i Nvidia ka argumentuar se kompanitë mund ta ndërtojnë sigurinë brenda vetë produkteve, ndërsa debati politik në SHBA vazhdon të jetë i ndarë mbi rolin e qeverisë.
Këtu lind pyetja e “kontrollit”. Nëse kompanitë vendosin vetë se çfarë është e sigurt, ato marrin një pjesë të madhe të përgjegjësisë për të përcaktuar kufijtë e teknologjisë. Nëse këtë rol e merr qeveria, lind një tjetër debat: sa larg duhet të shkojë rregullimi pa penguar zhvillimin dhe konkurrencën teknologjike?
Zhvillimet e fundit i kanë dhënë peshë kësaj pyetjeje. OpenAI ka publikuar gjashtë raste të sjelljeve problematike të modeleve dhe ka krijuar një proces të ri për identifikimin dhe raportimin e tyre. Ndërkohë, studiues nga kompani të ndryshme kanë paralajmëruar se modelet më të fuqishme po bëhen më të vështira për t’u monitoruar.
Edhe Amazon është futur së fundmi në debat, duke kërkuar testime rigoroze dhe masa mbrojtëse përpara publikimit të modeleve, por pa mbështetur një ngadalësim të përgjithshëm të industrisë.
Në fund, debati nuk ka një përgjigje të vetme. “Siguria” dhe “kontrolli” nuk janë domosdoshmërisht të kundërta, por mënyra se si përcaktohen dhe kush i zbaton ato do të ndikojë drejtpërdrejt në mënyrën se si zhvillohet AI në vitet e ardhshme.
Discussion about this post