Inteligjenca artificiale po përparon me një ritëm që po shqetëson gjithnjë e më shumë edhe njerëzit që punojnë brenda industrisë. Pyetja nuk është më vetëm se çfarë mund të bëjë AI, por nëse njerëzit do të jenë gjithmonë në gjendje ta kontrollojnë.
Një nga arsyet kryesore është ajo që studiuesit e quajnë “përmirësim i përsëritur i vetvetes”. Ideja është që një sistem AI të përdorë aftësitë e tij për kodim dhe kërkim për të ndihmuar në krijimin e versioneve edhe më të fuqishme të AI-së. Ky proces mund të krijojë një cikël ku sistemet bëhen gjithnjë e më të afta.
Kjo nuk do të thotë se AI ka arritur tashmë këtë nivel. Asnjë laborator kryesor nuk pretendon se ka krijuar një sistem që përmirëson plotësisht dhe në mënyrë autonome vetveten. Por ideja po merret gjithnjë e më seriozisht nga studiuesit e sigurisë së AI-së.
Një prej tyre është Rishub Jain, ish-studiues në Google DeepMind, i cili u largua nga puna pasi arriti në përfundimin se njerëzit mund të humbasin gradualisht kontrollin mbi mënyrën se si zhvillohen modelet e ardhshme.
Shqetësimet janë shtuar edhe pas disa përparimeve të fundit. Modelet moderne po zgjidhin probleme shumë komplekse, ndërsa agjentët AI po përdoren për detyra gjithnjë e më të gjata dhe të ndërlikuara. Sa më shumë hapa të kryejë një sistem pa ndërhyrjen e njeriut, aq më e vështirë bëhet të parashikohet çdo veprim i tij.
Në këtë debat është përfshirë edhe Jacob Coxon, i cili u largua së fundmi nga Anthropic dhe paralajmëroi se kompanitë e AI-së po ecin shumë shpejt drejt sistemeve që mund të përmirësojnë vetveten. Paralajmërimi i tij ka ndezur një debat të madh mes studiuesve për ritmin e zhvillimit dhe sigurinë e modeleve të ardhshme.
Megjithatë, jo të gjithë mendojnë se skenari më i keq është i pashmangshëm. Një pjesë e studiuesve argumentojnë se rreziqet duhet të maten me prova dhe jo vetëm me skenarë teorikë. Problemet më konkrete mund të jenë shumë më të afërta: sulmet kibernetike, dezinformimi dhe përdorimi i pakontrolluar i agjentëve AI.
Prandaj debati po zhvendoset nga pyetja “A do të na zëvendësojë AI?” te një pyetje shumë më serioze: sa kontroll duhet të ruajnë njerëzit mbi sistemet që po bëhen gjithnjë e më të afta?
Discussion about this post