Inrikes.

2019-09-10 11:15
Bild: Shutterstock / Pontus Lundahl/TT
Puffetikett
Dagens ETC

Bristande mångfald när AI utvecklas för välfärden

Artificiell intelligens ska rädda välfärden och de kvinnodominerade arbetsplatserna. Men bland de som ska ta fram de smarta systemen är kvinnor i liten minoritet.

Risken finns att de system som tas fram inte går att använda eller till och med blir farliga för kvinnor.

”Alla vill ha sin egen Steve Jobs, en teknikfrälsare. Men det är de som jobbar i ­välfärden som vet bäst vad de behöver”, säger Maria Udén, professor i genus och teknik vid Luleå tekniska univer­sitet.

När Nesta, den brittiska innovationstiftelsen, undersöker 1, 5 miljoner uppsatser och avhandlingar om AI som har publicerats i databasen Arxiv visar det sig att bara 13,8 procent av forskarna är kvinnor. Och siffran har inte stigit sedan 1990-talet.

Samma bild förmedlas från flera olika håll. Forskare på New York University kallar situationen inom AI för en ”mångfaldskatastrof” på grund av den totala vita, manliga dominansen.

– Branschen måste erkänna situationens allvar och inse att dess befintliga metoder har misslyckats med att lösa de här problemen, säger Kate Crawford, en av rapportens författare till The Guardian.

Diskriminerande teknik

Så vad är egentligen problemet? Enligt studien på New York University så riskerar den vita och manliga dominansen att återskapa maktobalanser och göra den nya tekniken diskriminerande. Och inte bara det, tekniken riskerar att inte fungera för kvinnor, samtidigt som AI lyfts fram som räddningen för den kvinno­dominerade välfärden.

– I dag finns det en enorm tilltro till tekniska lösningar och en stor beundran inför den unga, framgångsrika maskuliniteten, säger Maria Udén, professor i genus och teknik vid Luleå tekniska universitet.

22-åriga, teknikkunniga män ska utveckla system för alla typer av verksamheter. Även dem de inte har någon erfarenhet av. Men det är ju egentligen inte deras fel att det blir fel, menar Maria Udén. Ansvaret ligger hos beställare och arbetsgivare och hos forsknings- och innovationsfinansiärer. Kompetensen finns redan där, men kanske inte nödvändigtvis bland programmerarna och AI-forskarna.


Prenumerera på Dagens ETC:s nyhetsbrev

 

Involvera välfärdsarbetarna

– Många av de kvinnor som finns i välfärden i dag och som ska använda den här tekniken kan redan nu involveras i arbetet med att utveckla lösningar. Det handlar om att ta tillvara deras kunskap och innovationskraft, säger Maria Udén.

Och då menar hon att detta bör göras ordentligt, som en del av deras anställning.

– Som det är i dag är ofta formerna för ett sånt engagemang bland till exempel vårdpersonal vaga. Du får kanske en biobiljett för att du ingår i en fokusgrupp. Men för att det ska bli bra ska det vara en del av din anställning, med bra lönevillkor.

Om inte de som har erfarenhet av de verksamheter som tekniken ska användas i får vara med när tekniken utvecklas så riskerar den att bli oanvändbar eller till och med farlig.

Smart blev osmart

Maria Udén tar några exempel. En kvinna hon har intervjuat jobbar med rådgivning. Hon sitter på ett kontor där lamporna styrs av rörelsesensorer för att spara energi. Eftersom hon jobbar med rådgivning så sitter hon mycket still. Även de som kommer till hennes kontor för att få råd sitter still. Så det händer ofta att lampan slocknar trots att hon är där. Och eftersom kontoret ligger i Luleå där det är mörkt från klockan tre under vinterhalvåret så blir det kolsvart. Hon har försökt få det här löst, men ingen kan fixa det. Så hon har fått lösa det genom att ta med en helt vanligt golvlampa till jobbet som lyser hela tiden. Hon har fått gå hela varvet runt. Det smarta systemet visade sig vara väldigt osmart.

Ett annat av Maria Udéns exempel handlar om något så simpelt som en fåtölj. En av Maria Udéns kollegor på universitet är kort. Många människor är kortare än normallängden för en vit man. När kollegan häromdagen på en konferens skulle sätta sig i en fåtölj på fikarasten var hon för kort för att kunna sitta med fötterna i marken och samtidigt luta sig bakåt mot ryggstödet. Hon fick alltså välja mellan att sitta och vifta med fötterna i luften eller att sitta utan ryggstöd.

– Och att sitta och vifta med fötterna som en unge, det ger inte särskilt mycket pondus, säger Maria Udén.

Inte alla kroppar

Ett annat värre exempel har tagits upp av Cecile Crutzen som forskar på etik och AI. Det finns rum vars ventilation är helt styrd av AI. Det blir ingen ventilation alls om inte datorn säger till. Om du då inte rör dig, beter dig, har rätt längd eller rätt vikt utifrån vad systemet är programmerat utifrån så kan du kvävas i rummet.

– Ingen vill förstås med mening programmera ett sånt system men om det måste gå snabbt och om det måste vara billigt så kan sådana situationer uppstå. Människor beter sig olika beroende på ålder, bakgrund, uppfostran och kön. Vi lär oss hur vi ska hantera våra kroppar i förhållande till tid och rum, säger Maria Udén.

Läs vidare på nästa sida: AI i välfärden

DIGITAL PRENUMERATION

TVÅ VECKOR GRATIS!

Läs alla artiklar från Dagens ETC utan kostnad första två veckorna. Därefter är priset 199 kronor/månad. Ingen bindningstid. Du får dessutom Dagens ETC direkt till din mejl, alla dagar i veckan. Beställ för att läsa direkt.

Genom att klicka på ”Prenumerera” godkänner du prenumerationsvillkoren och samtycker till att ETC-företagen hanterar dina personuppgifter