”Artificiell intelligens”, AI, handlar i grunden om att urskilja mönster i enorma mängder insamlad data. Även sexistiska och rasistiska fördomar hör till de mönster som algoritmerna lätt kan återskapa. För att påvisa hur detta fungerar och kan undvikas krävs det kritiskt sinnade ingenjörer – sådana som Timnit Gebru.
Hon växte upp i Etiopien, flydde med familjen till USA och utbildade sig likt sina storasystrar till elektroingenjör. Hon jobbade åt såväl Apple som Microsoft och vande sig vid att vara den enda svarta kvinnan i rum som helt domineras av vita män – en snedvridning som präglar utvecklingen av AI-teknik.
Tillsammans med forskargruppen Gender Shades på det tekniska universitetet MIT i Cambridge kunde Timnit Gebru belägga att Amazons teknik för ansiktsigenkänning är bäst på att känna igen vita män. Kvinnor och färgade löper större risk att blandas samman med någon annan. Alltså borde det tills vidare inte vara tillåtet för exempelvis polisen att använda automatisk ansiktsigenkänning, konstaterade hon.
Efter denna insats blev Timrit Gebru världsledande inom det forskningsområde som kallas ”etisk AI” och hon rekryterades till Googles forskningsavdelning. Men i slutet av 2020 tvingades hon bort från sin tjänst – efter att ha dragit alltför obekväma slutsatser i en forskningsrapport. Ännu en av medförfattarna, Margaret Mitchell, rensades ut av Google häromveckan.
Företagets etikforskning har nu omorganiserats under en ny chef som visserligen är en svart kvinna, men som saknar erfarenhet av att praktiskt belysa diskriminerande algoritmer, så som Gebru och Mitchell har gjort. (Resultaten av deras senaste studie får jag återvända till i en senare krönika.)
Nu stormar hela det AI-etiska forskningsfältet, som till stor del finansieras av de amerikanska företag som är ledande inom AI. Vissa forskare låtsas som att det regnar, i hopp om att få fortsatt del av pengarna. Andra drar mer radikala slutsatser, som Chelsea Manning: ”Det finns inget sådant som etisk AI under kapitalismen.”