Från och med i höst kommer svensk polis att få använda sig av AI och biometrisk ansiktsigenkänning i samband med brottsutredningar.
Det är Datainspektionen som gett klartecken till det – under förutsättning att polisen först skapar riktlinjer för när det är nödvändigt att använda tekniken och dessutom gör det tydligt vilka som ska ha tillgång till den.
Risk för diskriminering
För även om fördelarna med AI-stöd i samband med polisiärt arbete är uppenbara – en automatiserad process gör jobbet på en bråkdel av den tid det tar för en människa att utföra samma uppgift – så finns också faror.
– Fall av diskriminering har förekommit i användning av ansiktsigenkänning, vilket har varit ett resultat av att datan som algoritmerna tränats på inte reflekterat den verkliga populationen. Det har saknats kontrollmekanismer och oberoende kontrollsystem, säger Anna Felländer, grundare till AI Sustainability Center.
IT-jättar pausar
Det är just den jungfruliga mark som AI och ansiktsigenkänning tillhör – och de etiska dilemman som kringgärdar den – som gjort att till exempel San Francisco i USA förra året förbjöd polisen att använda tekniken. Dessutom har både Amazon, Microsoft och IBM stoppat eller pausat försäljningen av sådan teknik till amerikansk polis.
– Jag tror att svenska polisen måste vara väldigt transparenta i den här frågan och förklara hur man tänkt sig att använda tekniken och i vilket syfte. Man måste förklara att det leder till ökad trygghet och säkerhet i samhället. Det finns en fin balansgång mellan när AI hjälper och när vi börjar känna oss övervakade, vilket riskerar att skada tilltron till samhället, säger Anna Felländer.