Lotta Ilona Häyrynen: Snart sprids falska bilder på demonstranter även i Sverige

Jag tror att färre än man tror hängde med i vad som hände på plattformen X, tidigare Twitter, strax efter jul. Enligt den senaste utgåvan av rapporten ”Svenskarna och internet” är bara fem procent av befolkningen inne på X dagligen (fler män än kvinnor). Och det som sker inne i Elon Musks lekstuga är sällan något man vill dela med sig av till andra.

Trots rubriker i svenska medier tror jag därför att porren, eller snarare övergreppsmaterialet, som sedan i julas kan skapas av X inbyggda AI gick många svenskar förbi. Sannolikt är det också därför politiker kan fortsätta använda plattformen utan särskilt mycket motstånd eller frågor från väljarna. 

När Center for Countering Digital Hate undersökte mängden övergreppsmaterial skapad av X-användare genom AI-verktyget Grok fick organisationen fram svindlande siffror. På två veckor skapades över tre miljoner sexualiserade bilder på framförallt kvinnor – 23 000 av bilderna såg ut att föreställa barn. ”En maskin för att skapa sexuellt övergreppsmaterial i industriell skala”, menar CCDH. 

De falska och manipulerade bilderna passar perfekt in i vår fascistiska samtid. The Guardian kunde i förra veckan avslöja att den amerikanska staten börjat sprida AI-manipulerade bilder på verkliga demonstranter.

Nekima Levy Armstrong fotograferades nyligen när hon blev arresterad i samband med en protest mot migrationspolisen ICE i Minnesota. När hon förs bort ser hon samlad men bestämd ut. Bilden delades av Kirsti Noem, Trumps minister för inrikes säkerhet. Bilden dög dock inte för Vita Husets pressekreterare eller administrationens officiella kanal på X. 

I stället delas exakt samma bild, men med Levy-Armstongs ansiktsuttryck utbytt. Det starka och samlade uttrycket är utbytt mot något helt annat: hon storbölar. Hennes ansikte är förvrängt av tårar och hon tittar rakt in i kameran. Syftet är, som vanligt, förnedring. Kan man inte visa några äkta liberala tårar får maktens propaganda-apparat helt enkelt fejka dem. 

Hur mycket falska och AI-manipulerade bilder som redan finns på svenska demonstranter går inte att veta, men efter de senaste två årens retorik mot till exempel Palestinarörelsen kan vi räkna med att det förr eller senare blir ett standardverktyg för ytterhögern. Finns det inga Hamas-flaggor kan de klippas in, och är klimatdemonstrerande damer utanför riksdagen inte tillräckligt skrikiga kan Grok lösa biffen. Förnedra och förvilla. 

Ändå är det farligaste med AI-teknologin, och bilder eller filmer som visar sig vara fejk, inte just falskheten. Det farligaste är att vi också slutar tro på sådant som är på riktigt, särskilt när något verkar för hemskt eller för spektakulärt. Vi gör det för säkerhets skull, som ett psykologiskt försvar, eftersom vi vet att det finns så mycket från så starka krafter som faktiskt vill lura oss. 

Därför hjälper heller inte till exempel bättre undervisning i källkritik mot denna nya verklighet. Det som försvinner mellan AI-porr och deepfakes är sanningen i sig själv. 

Kommer vi höra några särskilda åtgärder mot denna demokratividriga teknologi från vår nuvarande svenska regering? Inte mycket. Övergreppsmaterialet på X fördömdes av flera ministrar på X, men sedan snurrade världen vidare. 

Carl-Oskar Bohlin (M), vår minister för civilt försvar, har själv försvarat diverse inläggsdelningar från ljusskygga påverkansmiljöer på internet. Om demonstranter utanför riksdagen en dag fejkas till att se värre ut än de är riskerar han vara först med att sprida informationen vidare.

Förnedra och förvilla. Eller, om inte annat: bekräfta sin egen världsbild, även när man måste hitta på för att den ska hålla.