Krönika

Rasmus Fleischer: Nu delas AI-kritikerna i två läger

Publicerad 13 april, 2023 (Uppdaterad 14 april, 2023 )

Bild: Ascannio/Shutterstock

ETC nyhetsmagasin

Uppdelningen i två läger är både filosofiskt och politiskt relevant. Särskilt med tanke på att det första lägret inte bara består av forskare, utan även samlar många ledande figurer i själva AI-industrin.

Det här är en krönika.
Det är skribenten och inte ETC nyhetsmagasin som står för åsikten.

Rasmus Fleischer

Text

Inom gruppen ”forskare som varnar för AI” märks en tilltagande polarisering. Ena lägret talar om ”säkerhet”, andra lägret om ”etik”. Det ena hajpar AI-industrin, det andra vill punktera dess myter. Så när säkerhets-gänget testar ChatGPT-4 finner de åtminstone ett embryo till superintelligens, ett steg på vägen till en framtida självförbättrande AI. Medan etik-gänget ser en i grunden korkad språkmodell som identifierat matematiska sannolikheter – förvisso ur ett enormt källmaterial – för att sedan reproducera alla dess missförstånd och fördomar. Riskerna med artificiell intelligens förläggs alltså till framtiden av det läger som pratar ”AI safety”, medan de som pratar ”AI ethics” utgår från hur AI redan idag används för att befästa ojämlikhet och koncentrera makt.

Jag säger inte att man måste välja sida. Men det finns heller ingen neutral mittenposition.