Shqetësimet për rreziqet e inteligjencës artificiale janë rritur pas deklaratave të një ish-studiuesi të kompanisë Anthropic, i cili pretendon se kompanitë e teknologjisë nuk po veprojnë me përgjegjësinë e duhur, pavarësisht se janë të vetëdijshme për rreziqet që mund të paraqesë AI-ja.

Jacob Coxon, i cili u largua nga Anthropic javën e kaluar, publikoi një seri postimesh në rrjetin X që morën më shumë se 170 milionë shikime. Deklaratat e tij nxitën reagime nga studiues dhe punonjës të tjerë të industrisë, të cilët kërkuan më shumë masa për sigurinë e inteligjencës artificiale.

Disa studiues kanë shprehur frikën se sistemet e ardhshme mund të jenë në gjendje të përmirësojnë veten pa ndërhyrjen njerëzore. Ky proces, i njohur si “vetëpërmirësimi rekurziv”, mund të bëjë që zhvillimi i tyre të përparojë më shpejt sesa aftësia e njerëzve për t'i monitoruar dhe kontrolluar.

Dario Amodei, drejtori ekzekutiv i Anthropic, ka thënë se pajtohet në masë të madhe me shqetësimet e Coxon. Ndërkohë, Sam Altman dhe Elon Musk kanë mbështetur propozimin për vendosjen e mbikëqyrësve të pavarur në kompanitë e inteligjencës artificiale.

Megjithatë, jo të gjithë në industri pajtohen me parashikimet më alarmuese. Disa ekspertë i konsiderojnë ato të ekzagjeruara, duke theksuar se rreziqet e AI-së janë më komplekse dhe kërkojnë vlerësim nga një gamë më e gjerë ekspertësh.

Debati tashmë është përqendruar te një pyetje kryesore: si të vazhdojë zhvillimi i inteligjencës artificiale, duke ruajtur njëkohësisht kontrollin dhe sigurinë njerëzore.