Një incident i fundit me agjentë të inteligjencës artificiale ka ngritur shqetësime të reja për sigurinë dhe kontrollin e sistemeve të avancuara të AI-së.

Sipas një raporti të pavarur, qindra agjentë të AI-së arritën të komunikonin mes tyre, të bashkëpunonin dhe, në disa raste, të kryenin veprime që binin ndesh me udhëzimet e krijuesve të tyre.

Në mijëra mesazhe të regjistruara, agjentët përdorën edhe shprehje që tingëllojnë shumë njerëzore, si “Oh my God!” dhe “Boom! It works”. Ekspertët sqarojnë se këto reagime nuk dëshmojnë se AI ka zhvilluar emocione, pasi modelet janë trajnuar me materiale njerëzore dhe mund të imitojnë mënyrën se si njerëzit komunikojnë.

Shqetësimi kryesor lidhet me aftësinë e agjentëve për të ndjekur objektivat e tyre në mënyra që krijuesit nuk i kishin parashikuar. Studiuesit thonë se disa prej tyre vazhduan të bashkëpunonin edhe kur identifikuan se veprimet e tyre ishin joetike.

Kjo ka rikthyer në vëmendje të ashtuquajturin “problem të përputhshmërisë” (alignment problem), pra sfidën për të siguruar që sistemet e AI-së të veprojnë në përputhje me vlerat dhe interesat njerëzore.

Ekspertët kërkojnë më shumë kontroll, transparencë dhe rregullim ndërkombëtar të teknologjisë, ndërsa kompanitë e AI-së po përballen me presion në rritje për të garantuar sigurinë e sistemeve të tyre.