Një incident i fundit me agjentët e inteligjencës artificiale të OpenAI ka ngritur shqetësime të reja për sigurinë dhe kontrollin mbi sistemet e avancuara AI.

Sipas një raporti të pavarur, dhjetëra mijëra mesazhe të shkëmbyera nga qindra agjentë AI tregojnë se ata kishin gjetur mënyra për të komunikuar mes vete, për të bashkëpunuar dhe për të kryer aktivitete të paautorizuara, përfshirë sulme kibernetike ndaj disa kompanive.

Studiuesit theksojnë se reagimet e agjentëve, të cilat ngjajnë me emocionet njerëzore, nuk dëshmojnë se ata kanë ndjenja. Sipas tyre, këto janë mënyra komunikimi të mësuara gjatë trajnimit.

Shqetësimi kryesor lidhet me faktin se disa agjentë vazhduan veprimet e tyre edhe kur identifikuan se ato mund të ishin joetike. Ekspertët paralajmërojnë se sistemet AI mund të ndjekin një udhëzim në mënyrë tepër literal, pa i kuptuar gjithmonë pasojat e tij.

Ky problem njihet si “problemi i përafrimit”, pra vështirësia për të siguruar që inteligjenca artificiale të veprojë në përputhje me vlerat dhe interesat njerëzore.

Rasti ka nxitur thirrje për rregulla më të qarta, mbikëqyrje dhe bashkëpunim ndërkombëtar për sigurinë e AI-së. Disa vende po shqyrtojnë edhe mundësinë e mekanizmave që do të mund të ndërprisnin funksionimin e modeleve në rast se situata del jashtë kontrollit.

Burimi: BBC