– Det förekommer också inom den kommersiella världen, mellan företag, för att attackera konkurrenter, säger Mattias Svahn.

Generativ AI leder

Numera finns en mängd appar och tjänster som erbjuder teknologisk faktagranskning och AI-detektering. Hur bra de fungerar i praktiken är svårt att svara på.

– Men man kan nog säga att generativ AI leder loppet, säger Mattias Svahn.

Det är verktyg som kan användas för att skapa något nytt inom text, ljud eller bild. De senaste åren har verktygen utvecklats så pass mycket att de kan generera innehåll med hög kvalitet, vilket gör det svårare att skilja äkta från fejk.

– Första och andra generationens maskinella verktyg för desinformationsbekämpning har varit beroende av att känna igen tidigare förekomster av texter, bilder och filmer, förklarar Mattias Svahn.

Ett exempel är om en bild tidigare publicerats någon annanstans men sedan används senare i ett helt annat sammanhang.

– Det förutsätter att bilden ifråga har förekommit förut. Är det en AI-genererad bild som är välgjord – då är det en ny, unik bild varje gång, säger Mattias Svahn.

För mycket desinfo

Som tidigare forskningsledare för EU-projektet Co-inform arbetade Mattias Svahn med att ta fram verktyg för desinformationsbekämpning för sociala medier. Tanken var att hitta en hybridlösning mellan mänskliga faktagranskare och tekniska verktyg.

– Problemet är att de maskinella lösningarna för desinformationsbekämpning saknar precision och transparens. Då är det mänskliga, hantverksmässiga arbetet mycket bättre.

Mängden desinformation ställer dock till det.

– Det mänskliga arbetet kan bara täcka en ytterst liten promille av hela behovet, säger Mattias Svahn.

Inte runt hörnet

Och att utveckla bättre teknologiska lösningar är en komplicerad fråga.

– Den senaste veckans diskussion efter Kalla faktas granskning har visat att det är väldigt svårt att visa på gränsdragningen när det gäller bedömningsfrågor. Vad är humor, vad är satir? Moralfilosofiska dimensioner av desinformation tror jag att maskiner kommer att ha svårt att hantera i alla fall i den nära framtiden.

En helhetslösning tycks alltså fortsatt långt borta.

– Något övergripande verktyg som kan säga ”det här är sanning”, det tror jag inte kommer att komma inom en överskådlig framtid, säger Mattias Svahn.