Imazhet pornografike, të krijuara nga AI, të yllit më të famshëm në botë, u shpërndanë nëpër mediat sociale këtë javë, duke nënvizuar potencialin dëmtues të teknologjisë së zakonshme të inteligjencës artificiale: aftësinë e saj për të krijuar imazhe bindëse reale dhe të dëmshme.

Imazhet e rreme të Taylor Swift qarkullonin kryesisht në faqen e mediave sociale X, e njohur më parë si Twitter. Fotot – të cilat tregojnë këngëtaren në pozicione seksuale sugjestive dhe eksplicite – janë parë dhjetëra miliona herë përpara se të hiqen nga platformat sociale. Por asgjë në internet me të vërtetë nuk është zhdukur përgjithmonë dhe padyshim që ato do të vazhdojnë të ndahen në kanale të tjera, më pak të rregulluara.

Ashtu si shumica e platformave kryesore të mediave sociale, politikat e X ndalojnë ndarjen e "mediave sintetike, të manipuluara ose jashtë kontekstit që mund të mashtrojnë ose ngatërrojnë njerëzit dhe të çojnë në dëm".

Incidenti vjen ndërsa Shtetet e Bashkuara po shkojnë në një vit zgjedhjesh presidenciale dhe shqetësimet po rriten rreth asaj se si imazhet dhe videot mashtruese të krijuara nga AI mund të përdoren për të nxitur përpjekjet për dezinformim dhe përfundimisht për të prishur votimin.

“Ky është një shembull kryesor i mënyrave në të cilat AI është duke u lëshuar për shumë arsye të ndyra pa parmakë mbrojtëse të mjaftueshme për të mbrojtur sheshin publik,” tha për CNN Ben Decker, i cili drejton Memetica, një agjenci hetimesh dixhitale.
Decker tha se shfrytëzimi i mjeteve gjeneruese të AI për të krijuar përmbajtje potencialisht të dëmshme që synojnë të gjitha llojet e figurave publike po rritet shpejt dhe po përhapet më shpejt se kurrë në mediat sociale.

"Kompanitë e mediave sociale nuk kanë në të vërtetë plane efektive për të monitoruar domosdoshmërisht përmbajtjen," tha ai.
X, për shembull, ka shkatërruar kryesisht ekipin e tij të moderimit të përmbajtjes dhe mbështetet në sistemet e automatizuara dhe raportimin e përdoruesve. (Në BE, X aktualisht është duke u hetuar mbi praktikat e tij të moderimit të përmbajtjes).

Meta gjithashtu bëri shkurtime në ekipet e tij që trajtojnë dezinformimin dhe fushatat e koordinuara të trolleve dhe ngacmimeve në platformat e tij, thanë për CNN njerëz me njohuri të drejtpërdrejta të situatës, duke ngritur shqetësime përpara zgjedhjeve kryesore të 2024 në SHBA dhe në mbarë botën.
 
Është e paqartë se ku e kanë origjinën imazhet e lidhura me Taylor Swift. Edhe pse disa imazhe u gjetën në sajte si Instagram dhe Reddit, ato ishin një çështje e përhapur në veçanti në X.

Incidenti gjithashtu përkon me rritjen e mjeteve të gjenerimit të AI si ChatGPT dhe Dall-E. Sidoqoftë, ekziston gjithashtu një botë shumë më e gjerë e modeleve të pamoderuara të inteligjencës artificiale jo të sigurta për punë në platformat me burim të hapur, tha Decker.