Krönika. Rasmus Fleischer.

2021-03-05 13:45
Puffetikett
ETC Nyhetsmagasin

Nu stormar det inom AI-forskningen

Vissa forskare låtsas som att det regnar, i hopp om att få fortsatt del av pengarna. Andra drar mer radikala slutsatser.

Vill du fortsätta läsa?

Bli prenumerant på Nyhetsmagasinet ETC!
Om du redan är det loggar du in här.

Betala per vecka

Från

11 kr

Beställ här!

Din prenumeration på ETC nyhetsmagasin förnyas varje vecka. Avsluta när du vill.

Betala per månad

Från

39 kr

Beställ här!

Din prenumeration på ETC nyhetsmagasin förnyas varje månad. Avsluta när du vill.

”Artificiell intelligens”, AI, handlar i grunden om att urskilja mönster i enorma mängder insamlad data. Även sexistiska och rasistiska fördomar hör till de mönster som algoritmerna lätt kan återskapa. För att påvisa hur detta fungerar och kan undvikas krävs det kritiskt sinnade ingenjörer – sådana som Timnit Gebru.

Hon växte upp i Etiopien, flydde med familjen till USA och utbildade sig likt sina storasystrar till elektroingenjör. Hon jobbade åt såväl Apple som Microsoft och vande sig vid att vara den enda svarta kvinnan i rum som helt domineras av vita män – en snedvridning som präglar utvecklingen av AI-teknik.

Tillsammans med forskargruppen Gender Shades på det tekniska universitetet MIT i Cambridge kunde Timnit Gebru belägga att Amazons teknik för ansiktsigenkänning är bäst på att känna igen vita män. Kvinnor och färgade löper större risk att blandas samman med någon annan. Alltså borde det tills vidare inte vara tillåtet för exempelvis polisen att använda automatisk ansiktsigenkänning, konstaterade hon.

Efter denna insats blev Timrit Gebru världsledande inom det forskningsområde som kallas ”etisk AI” och hon rekryterades till Googles forskningsavdelning. Men i slutet av 2020 tvingades hon bort från sin tjänst – efter att ha dragit alltför obekväma slutsatser i en forskningsrapport. Ännu en av medförfattarna, Margaret Mitchell, rensades ut av Google häromveckan.

Företagets etikforskning har nu omorganiserats under en ny chef som visserligen är en svart kvinna, men som saknar erfarenhet av att praktiskt belysa diskriminerande algoritmer, så som Gebru och Mitchell har gjort. (Resultaten av deras senaste studie får jag återvända till i en senare krönika.)

Nu stormar hela det AI-etiska forskningsfältet, som till stor del finansieras av de amerikanska företag som är ledande inom AI. Vissa forskare låtsas som att det regnar, i hopp om att få fortsatt del av pengarna. Andra drar mer radikala slutsatser, som Chelsea Manning: ”Det finns inget sådant som etisk AI under kapitalismen.” 

Rasmus Fleischer
Rasmus Fleischer 

Rasmus Fleischer är ekonomihistoriker och ETC:s expert på den digitala utvecklingen.