Techkrönika. Rasmus Fleischer.

2021-09-01 16:30
Puffetikett
ETC Nyhetsmagasin

Så hotas demokratin av algoritmerna

Om statsapparaten gradvis tas över av algoritmer som varken är öppna eller begripliga, nås till slut den punkt då det blir omöjligt att kalla staten för demokratisk.

Vill du fortsätta läsa?

Bli prenumerant på Nyhetsmagasinet ETC!
Om du redan är det loggar du in här.

Betala per vecka

Från

11 kr

Beställ här!

Din prenumeration på ETC nyhetsmagasin förnyas varje vecka. Avsluta när du vill.

Betala per månad

Från

39 kr

Beställ här!

Din prenumeration på ETC nyhetsmagasin förnyas varje månad. Avsluta när du vill.

Allt fler beslut fattas nu automatiskt, av en algoritm. I ännu fler fall finns det fortfarande en mänsklig handläggare, men vars roll allt mer reduceras till att bekräfta det beslut som föreslås av en mjukvara.

Automatiserat beslutsfattande är ingenting nytt. Precis som med mycket av det vi kallar för ”artificiell intelligens” handlar det snarare om en gradvis utveckling som redan har pågått i årtionden. Vad är en kreditupplysning annat än en simpel algoritm för att väga samman data om någons privatekonomi? Algoritmer som avgör vem som får ta ett lån eller en försäkring. De styr människors livsmöjligheter, men så länge det sker inom privata företag är det få som upprörs över bristen på insyn. Dessutom kallas det inte diskriminering när man sorterar bort bara för att människor saknar en fast inkomst.

Lite mer kontroversiellt ter sig robothandläggarnas intåg i offentlig sektor. Trelleborgs kommun har redan automatiserat besluten om vilka som ska beviljas försörjningsstöd. Såväl inom vården som Polisen är auto­matiska beslutsstöd på obeveklig frammarsch. Vilka grunder som finns för besluten vet då ofta bara det multinationella företag som har levererat mjukvaran.

En statlig utredning från i våras (SOU 2021:16) gav i stort sett grönt ljus för denna utveckling. Sveriges kommuner och regioner, SKR, driver på, medan kraftiga invändningar däremot har kommit från Akademikerförbundet SSR. De pekar bland annat på risken för automatiserad diskriminering. Det behöver inte finnas några onda avsikter inbyggda i programkoden. Det räcker med att existerande mönster av rasism eller sexism finns i den data som matas in. Forskare har gång på gång visat hur maskininlärning tenderar att inte bara återskapa utan även stärka sådana strukturer. För den som vill fördjupa sig i saken rekommenderas första kapitlet i Olle Häggströms aktuella bok ”Tänkande maskiner”.

Om statsapparaten gradvis tas över av algoritmer som varken är öppna eller begripliga, nås till slut den punkt då det blir omöjligt att kalla staten för demokratisk. 

Den här artikeln kommer från ETC nyhetsmagasin
Vill du prenumerera för under 16 kronor numret?
Här kan du teckna en prenumeration.

Rasmus Fleischer
Rasmus Fleischer 

Rasmus Fleischer är ekonomihistoriker och ETC:s expert på den digitala utvecklingen.