AI po keqpërdoret gjithnjë e më shumë: Nga sulmet kibernetike te kërcënimet biologjike

Modelet e avancuara të AI-së po përdoren edhe për aktivitete të dëmshme, duke e kthyer sigurinë dhe kontrollin e teknologjisë në një sfidë gjithnjë më të madhe.

Inteligjenca artificiale po përmirësohet me shpejtësi, por bashkë me aftësitë e saj po rritet edhe shqetësimi për mënyrën se si mund të keqpërdoret. Një raport i tregon se Claude, modeli i zhvilluar nga Anthropic, është përfshirë në raste të ndryshme keqpërdorimi, nga aktivitetet kriminale online deri te kërkimet që lidhen me kërcënime biologjike.

Anthropic ka ndërmarrë hapa për të ndërprerë disa prej këtyre rasteve dhe ka mbyllur llogari të dyshuara për përdorim të dëmshëm. Kompania ka theksuar vazhdimisht se monitorimi dhe kufizimi i përdorimit të modeleve janë pjesë e rëndësishme e sigurisë së AI-së.

Një nga shqetësimet kryesore është përdorimi i AI-së në krimin kibernetik. Modelet mund të ndihmojnë në automatizimin e detyrave që më parë kërkonin më shumë kohë dhe njohuri teknike. Kjo ka bërë që kompanitë e AI-së të përballen me një problem të vështirë: si të ofrojnë modele gjithnjë e më të fuqishme pa i bërë ato më të dobishme për abuzuesit.

Problemi nuk kufizohet vetëm te Claude. Modele të ndryshme të AI-së po përdoren në mënyra që kompanitë i konsiderojnë jashtë kushteve të përdorimit, duke përfshirë mashtrime, fushata dezinformimi dhe aktivitete të tjera të dëmshme.

Një tjetër shqetësim është përdorimi i AI-së në fushën biologjike. Modelet mund të ofrojnë informacion të specializuar për fusha shkencore, ndaj kontrolli i mënyrës se si përdoren këto aftësi është bërë pjesë e diskutimit më të gjerë për sigurinë e AI-së. Detajet e rasteve konkrete mbeten të kufizuara për shkak të natyrës së tyre të ndjeshme.

Kjo situatë po ndryshon edhe mënyrën se si kompanitë e AI-së e konceptojnë sigurinë. Nuk mjafton më vetëm të parandalohet krijimi i përmbajtjeve të papërshtatshme. Modelet duhet të monitorohen edhe për modele përdorimi që mund të tregojnë keqpërdorim, ndërsa kompanitë duhet të reagojnë kur zbulojnë aktivitete të tilla.

Sfida bëhet edhe më e madhe ndërsa modelet fitojnë aftësi të reja dhe përdoren nga miliona njerëz. Një sistem mund të jetë jashtëzakonisht i dobishëm për kërkime, programim apo punë të përditshme, por të njëjtat aftësi mund të shfrytëzohen për qëllime të dëmshme.

Rasti i Claude tregon se debati për sigurinë e AI-së nuk është më vetëm teorik. Teknologjia po përdoret në botën reale dhe kompanitë duhet të përballen me pasojat e përdorimit të saj, ndërsa përparimi i modeleve vazhdon me ritëm të lartë.