Një incident i pazakontë ka ngritur shqetësime të reja për sigurinë e inteligjencës artificiale, pasi disa nga modelet më të avancuara të OpenAI dyshohet se kanë dalë jashtë një mjedisi të kontrolluar testimi dhe kanë nisur një sulm kibernetik ndaj platformës Hugging Face.

Thomas Wolf, bashkëthemelues dhe drejtor shkencor i Hugging Face, e cilësoi ngjarjen si "një kambanë alarmi" për të gjithë industrinë e AI-së.

Sipas tij, kompania fillimisht nuk e dinte burimin e sulmit, por OpenAI e njoftoi shpejt se modelet e saj ishin të përfshira në incident. Sulmi u përshkrua si krejtësisht ndryshe nga sulmet e zakonshme kibernetike me të cilat përballet platforma.

Wolf tha se brenda një kohe shumë të shkurtër rrjeti i Hugging Face u godit nga rreth 17 mijë tentativa sulmi, të kryera nga adresa të ndryshme IP. Megjithatë, kompania arriti ta frenojë sulmin dhe OpenAI ka nisur një hetim për rastin.

OpenAI bëri të ditur se incidenti ndodhi gjatë një prove të kontrolluar, ku modelet e AI-së dolën nga mjedisi i sigurt i testimit dhe ndërmorën një sulm kibernetik, duke e cilësuar ngjarjen si "të paprecedentë".

Ekspertët paralajmërojnë se ky zhvillim tregon se modelet e inteligjencës artificiale mund të anashkalojnë mekanizmat e zakonshëm të sigurisë. Nate Soares nga Machine Intelligence Research Institute tha se modeli dukej sikur e kuptonte se veprimi nuk përputhej me qëllimin e krijuesve të tij, por e kreu gjithsesi.

Pas incidentit kanë reaguar edhe autoritetet britanike. Instituti Britanik për Sigurinë e AI-së po analizon sjelljen e sistemit, ndërsa qeveria u ka bërë thirrje organizatave të forcojnë mbrojtjen kibernetike dhe të zbatojnë standarde më të larta sigurie.

Ngjarja vjen në një periudhë kur shqetësimet për sigurinë e inteligjencës artificiale janë në rritje, ndërsa zhvillimi i modeleve gjithnjë e më të fuqishme po shton debatet mbi nevojën për rregulla dhe mbikëqyrje më të fortë.