Det senaste året har det också uppmärksammats att amerikanska gränspolisen använder sig av ansiktsigenkänningsteknik framtagen av Amazon, något som har fått Amazon-anställda att protestera. Amazons teknik har dessutom hamnat i blåsväder då den, när den i flera tester där politiker jämförs med misstankeregistret, har felidentifierat politiker som kriminella.

I Storbritannien varnar organisationer som arbetar med integritetsfrågor för en ”epidemi” av övervakning, då ansiktsigenkänning blivit allt vanligare på museer och i gallerior, ofta utan att besökare upplyses om att det förekommer. Reklambudskapen på de kända reklamtavlorna på Piccadilly Circus är numera anpassade efter de ansikten som kameror (som analyserar kön, ålder och humör) läser av bland de förbipasserande. En undersökning från brittiska organisationen Big brother watch avslöjade ett vida spritt användande och att det var privata företag som gick i bräschen för den kontroversiella teknologins utbredning.

Och då har vi ännu inte nämnt Kina, där tekniken används i ett rent av Orwellskt övervakningssystem.

Ansiktsigenkänning spås vara framtiden både för trygghets- och säkerhetsbranschen, såväl för polisen som butiks­världen, som behöver hitta sätt att tävla med e-handeln. Men i takt med att tekniken breder ut sig har också motståndet ökat. I San Fransisco har politiker förbjudit myndigheter att använda sig av ansiktsigenkänning, och den demokratiska senatorn och utmanaren för att bli demokraternas presidentkandidat, Bernie Sanders, vill se ett förbud i hela USA.

Sedan i juni i år får finsk polis och tull använda ansiktsigenkänningsteknologi för att förebygga, utreda och avslöja brott. Svensk polis vill nu också kunna använda tekniken. Ihöst hoppas myndigheten kunna sätta igång med att använda tekniken för att matcha bilder på misstänkta, exempelvis från övervakningskameror, mot personer i polisens register. Just nu inväntar Datainspektionen ett förhandssamråd från polisen, något som kräver att man tillsammans med Datainspektionen går igenom om man ska påbörja en insamling av känsliga personuppgifter, vilket våra ansikten är.

– Det kan vara så att polisen kan behöva särskilt lagstöd för att använda det här, man har det exempelvis när det gäller fingeravtryck och DNA, som också räknas som känsliga personuppgifter, berättar Jenny Bård, jurist på Datainspektionen.

Ständig expansion

Kriminologiprofessorn Janne Flyghed, som forskat kring brottsbekämpning, övervakning och integritet ser med oro på utvecklingen.

– Det man har sett under de decennier jag har sysslat med kontroll och övervakning är att det har varit en ständig expansion, det har aldrig gått åt andra hållet.

Han menar att övervakningen i brottsbekämpande syfte steg för steg har blivit allt mer omfattande. Han beskriver att man på 60-talet hade en övervakning av enskilda individer, som var konkret misstänkta för brott. Under 70- och 80-talet och framåt blev det relevant och acceptabelt att övervaka hela grupperingar, potentiella hotgrupper, som veganer och vänster- och högerextremister. Med EU:s datalagringsdirektiv och FRA-lagen fick vi en generell befolkningskontroll.

– Man kan se det som en normalisering av exceptionella förhållanden. De exceptionella förhållandena är både de hotbilder man trummar fram, och de exceptionella kontrollmetoder man svarar med. Kameraövervakning var en väldigt exceptionell åtgärd när den började diskuteras, men nu har det blivit helt normaliserat. Och nu bygger man på. Man har kameror som utrustas med mikrofoner, kameror utrustade med högtalare så man ska kunna prata med folk, och nu kommer ansiktsigenkänning.

Han ställer sig frågande till om kostnaderna står i proportion till de effekter det ger.

– Vad det kostar rent ekonomiskt och vad det kostar i integritetskränkning måste ställas mot vilken brottshämmande effekt det ger. Det är väldigt bristfälliga belägg för att det är effektivt.

Det svensk polis vill göra till en början är att kunna använda ansiktsigenkänningsteknik för att jämföra bilder mot misstankeregister. Ser du risker med det?

– Risken för expansion finns alltid. Säg att du har en plats, där du identifierar tio personer och söker någon för att hitta en matchning. Vi vet av erfarenhet, historiskt och internationellt att sannolikheten för att man sparar så kallad överskottsinformation är otroligt stor. Hur ska det användas och vad finns det för garantier att det inte missbrukas? Vad ska hända med det lagrade materialet? Det finns en tendens inom polisen att tänka att det kan vara bra att ha.

De krafter som driver på utvecklingen menar han återfinns både i det politiska klimatet och i säkerhetsindustrin.

– Idag, i det populistiska politiska klimatet, där handlingskraft och hårda tag lönar sig, går det inte att vara soft. Man plockar enkla poänger i kriminalpolitiken, fler poliser, längre straff och teknik. Men tror man att den ultimata brottsbekämpningsmetoden är teknik då har man kommit fruktansvärt fel.

– Industrin är också en stor intressegrupp för detta och trycker på väldigt hårt. Förra året var jag på en konferens med 300 personer ur säkerhetsbranschen. Jag var den enda som pratade om integritet. Deras intresse är främst att sälja.

Ofta motiveras ju övervakning med att det skapar trygghet, kan det inte ha den effekten?

– Där har det skett en intressant glidning. När man introducerade övervakningskameror på allmän plats så handlade det om att de skulle fungera brottspreventivt. Det visade sig inte stämma, då började man istället prata om att de är brottsuppklarande. Det ser man framför allt i säkerhetsbranschen, där man hänvisar till vissa exceptionella fall där det varit så. Men några systematiska undersökningar av detta finns inte. Nu pratar man mycket om att övervakningen skapar trygghet. Det är något som är fruktansvärt svårt att mäta, vilket framkommer i de trygghetsundersökningar som gjorts.

Butikernas framtid?

På Datainspektionens bord ligger just nu ett fåtal ärenden om ansiktsigenkänning. Dels det förhandssamråd som inväntas kring polisens användning och dels en gymnasieskola i Skellefteå som tilldelades en sanktionsavgift för att ha testat tekniken i ett försök kring närvaroregistrering som omfattande 22 elever. Men där finns också en butik. Isabella Löwengrips investmentbolag Nordic Tech House, meddelade i våras att man ville testa tekniken i en butik i Gallerian i Stockholm, i syfte att bland annat avgöra kön, ålder, ansiktsuttryck och om en viss besökare är återkommande.

– Vi vill skapa en ny typ av butik där du får bättre personlig service. Vi vill att kunden ska slippa köer, att kassorna ska bort och att personalen ska kunna ditt namn, sa Nordic Tech House-grundaren Linus Kaasik, till SVT i somras.

Butiker har blivit ifrånsprungna av e-handeln, som mycket mer effektivt kan följa sina konsumenters steg på nätet och rikta sin reklam till dem. När ansiktsigenkänningen internationellt marknadsförs mot butiksnäringen, framställs den som en räddning i den allt hårdare konkurrensen med e-handeln. Det framhålls att tekniken kan minska snatteriet, såväl som öka intäkterna då man genom detaljerade kundprofiler kan rikta sina budskap och sin försäljning mer effektivt mot kunderna.

Jenny Bård har dock svårt att se hur svenska butiker ska kunna använda sig av tekniken utan att bryta mot EU-regleringar. Europeiska dataskyddsstyrelsen, EDPB, har antagit riktlinjer för kamerabevakning som ska gälla i hela EU.

– Den nya riktlinjen är tydlig, man kan inte använda tekniken på dem som inte har samtyckt, och det blir väldigt svårt för butiker att se till att tekniken bara används på de som har samtyckt, säger hon till ETC.

Riktlinjerna är nu på publik konsultation. Den som vill kan lämna synpunkter till EDPB innan den 9 september.

Andra problem som kan omgärda ansiktsigenkänningsteknik är riskerna för läckor eller att uppgifterna missbrukas och kopplar samman data som samlats in på annat sätt. I augusti i år avslöjades en enorm läcka där uppgifter som fingeravtryck och ansiktsavläsning låg helt öppet på en okrypterad server. Databasen tillhörde företaget Suprema, som sysslar med passersystem och används av tusentals kunder i fler än 80 länder. Flera miljoner människor var drabbade av läckan, rapporterade The Guardian.

– Vi brukar prata om hög IT-säkerhet, om att byta lösenord. Ansiktet går inte att byta ut. Det finns alltid en risk, även om tekniken skulle tillåtas, att det används på sätt som inte är tillåtna, att datan får spridning inom och utom en organisation, säger Jenny Bård.

Anonym ansiktsigenkänning

Under sommaren lanserade företaget Indivd sin version av ansiktsigenkänningsteknik till butiker, där man utlovar full anonymitet.

– Vi gör en sorts sociologisk studie med hjälp av kameror. Vi bygger inga profiler som andra system gör. Vi är för den lagstiftning som finns, berättar Leonard Johard, AI-forskare och arkitekten bakom systemet, till ETC.

Han beskriver att tekniken plockar upp en del av din identitet, ungefär att jämföra med de sista siffrorna i ett telefonnummer. Uppgifter som inte säger något om vem personen är egentligen, men som kan användas för att uppskatta andelen återbesök i butiken och räkna ut hur människor rör sig.

Vad säger ni till de som känner oro för missbruk av uppgifterna?

– Jag håller med dem. Ansiktsigenkänning är olagligt enligt GDPR, så det är inte möjligt idag. Vi gör inte ansiktsigen­känning på det sättet. Det finns intresse från butikerna att få loss mer information för att kunna uppnå större effektivitet, men det finns ingen risk idag för ett övervakningssamhälle i EU, eftersom GDPR är så pass stark.

Säg att en galleria skaffar ert system. Sedan har väktarna i gallerian ett eget register över personer de inte vill ska komma in, kan de använda sig av ert system för att identifiera att de inte kommer in?

– Det är helt omöjligt. Vi sparar inget som kan länkas till en bild på en person, säger Leonard Johard.

Datainspektionens Jenny Bård vill inte uttala sig om huruvida Indivds teknik följer lagen eller inte.

– Vi har inte tittat närmare på den tekniken, så vi kan inte uttala oss. Kan man koppla den här igenkänningen mot en tidigare insamlad data, även om man inte vet exakt vem det är, är det i sig en identifiering och då kan det finnas en problematik med den tekniken, säger hon.

Enklare att kameraövervaka

En snabb koll hos välsorterade elektronikåterförsäljare visar att många moderna övervakningskameror nu är utrustade med ansiktsigenkänningsteknik. Detta samtidigt som det förra året blev betydligt enklare att kameraövervaka för privata företag och privatpersoner. Förra året föreslog en statlig utredning att inte heller polisen ska behöva söka tillstånd för att kameraövervaka.

Janne Flyghed efterlyser en större diskussion om integritetsfrågor.

– En allmän övervakning bygger ju på en omvänd bevisbörda, att jag ska acceptera att vara potentiellt misstänkt för att bevisa att jag inte är misstänkt. Det är helt fel. Och det här med ”rent mjöl i påsen”, som man brukar säga. Jag vill inte ha övervakningsindustrins eller polisens skitiga fingrar i mitt rena mjöl, jag ska inte behöva visa upp det. Det är hela grunden för de medborgerliga fri- och rättigheterna. Men det står inte högt på agendan idag. Och det tycker jag är djupt tragiskt. Politikerna har fullständigt sålt sig.

– Och en sak till, skjuter han in.

– Just nu studerar jag den helorganiserade grova brottsligheten, alltså den från stora företag. Hur kommer det sig att deras integritet aldrig kommer in i de här diskussionerna? Den riktar sig alltid mot det vi brukar kalla för den traditionella brottsligheten, så kallade street-crimes. Men suite-crimes, de kommer oftast undan den här övervakningen. 

Mjukvara som identifierar människor genom att jämföra bilder av deras ansikten mot en databas är redan vida spridd i Kina och sprider sig nu över resten av världen.

Den används av polismyndigheter, men har också använts vid flygplatser, tågstationer och shoppingcenter.

Framtidsforskaren Birgit Shippers listar tio anledningar till att vara på sin vakt.

1. Den är ett steg mot total övervakning

Övervakningskameror är redan vanligt förekommande i offentliga utrymmen runt om i världen, men för att myndigheter ska kunna använda materialet mot medborgarna behöver det som ska användas som bevis ha fångats på film. Ansiktsigenkänning tar övervakningen till nya nivåer. Den möjliggör automatiserad och allomfattande liveövervakning av människor medan de lever sina liv, och ger myndigheter möjligheten att följa människors varje steg.

2. Det saknas ett tydligt juridiskt reglerande ramverk

De flesta länder har ingen specifik lagstiftning som reglerar användningen av ansiktsigenkänningsteknologi, det finns dock lagstiftare som arbetar för att förändra detta. Detta juridiska limbo öppnar dörren till missbruk av teknologin, såsom att tillskansa sig bilder av människor utan deras vetskap eller samtycke och använda dem på sätt som vi inte skulle godkänna.

3. Den strider mot principerna om behov och proportionalitet

En allmänt accepterad människorättsprincip, erkänd av organisationer från FN till Londons polisetiska panel, är att övervakning ska utföras vid behov och att den även ska vara proportionerlig. Det innebär att övervakning ska begränsas till arbetet mot grov kriminalitet, snarare än att möjliggöra oberättigade intrång i vår frihet och våra fundamentala rättigheter. Ansiktsigenkänningsteknologi går på tvärs mot dessa principer. Det är en kontrollteknologi som är symptomatisk för statens misstro mot sina medborgare.

4. Den kränker vår rätt till privatliv

Rätten till integritet spelar roll också i offentliga rum. Den skyddar oss från opåkallade intrång från stater eller privata företag. Ansiktsigenkänning, med storskalig inspelning, lagring och analys av våra bilder underminerar den rätten, då det innebär att vi inte längre kan göra något i det offentliga utan att staten vet om det.

5. Ansiktsigenkänning har en dämpande effekt på demokratisk politisk kultur

Total övervakning kan avskräcka individer från att delta vid offentliga evenemang. Den kan motverka deltagande i politiska protester och kampanjer för förändring. Den kan avskräcka icke-konformt beteende. Denna avmotiverande effekt är en allvarlig överträdelse av rätten att samlas, organisera sig och uttrycka sig.

6. Den förnekar medborgaren möjligheten att samtycka

Det saknas detaljerad och specificerad information om hur ansiktsigenkänning faktiskt används, såväl av privata aktörer som av polis och underrättelsetjänst. Det betyder att vi inte ges möjlighet att samtycka till analys, lagring och upptagning av våra bilder i databaser. När vi förnekas möjligheten att samtycka, förnekas vi samtidigt bestämmande och kontroll över hur bilder av oss används.

7. Tekniken har ofta fel

Ansiktsigenkänningsteknologi utlovar pålitlig identifiering. Ett stort antal studier belyser dock att algoritmerna som har tränats upp på rasmässigt snedvridna dataset, felidentifierar icke-vita, särskilt när det gäller kvinnor. Sådan algoritmisk diskriminering är särskilt oroande om den resulterar i felaktiga gripanden, eller i att myndigheter och företag diskriminerar kvinnor och människor ur etniska minoriteter.

8. Den kan leda till automatiserad snedvridning.

Om de som använder mjukvaran för ansiktsigenkänning tror att tekniken är i det närmsta ofelbar kan det leda till dåliga beslut. Så kallad ”automation bias”, att människor tenderar att föredra datorers svar, måste förhindras. Maskiner bör inte besluta hur myndigheter och privata företag behandlar människor. Mänskliga operatörer måste utöva kontroll och fatta besluten i enlighet med lag.

9. Den leder till att register upprättas

Databaserna med människors ansikten borde få larmklockorna att ringa. Det innebär att privata företag och rättsväsendet delar eller lagrar våra bilder för att bygga databaser över potentiella misstänkta utan vår vetskap. Detta är ett hot mot våra individuella och medborgerliga rättigheter. Dessa databasers säkerhet, deras sårbarhet för hackerattacker är också en källa till oro.

10. Tekniken kan användas mot redan sårbara grupper

Ansiktsigenkänningsteknologi kan användas för massövervakning. Men den kan också användas selektivt, för att exempelvis identifiera flyktingar och migranter. Försäljningen av sådan teknologi till kontroversiella myndigheter såsom den amerikanska gränspolisen, ICE, som har fått massiv kritik för sina metoder mot migranter, borde oroa alla som bryr sig om mänskliga rättigheter. Och användningen av mobilappar med ansiktsigenkänning, som amerikanska polismyndigheter använder, väcker frågan om ökad rasprofilering på gatunivå.

Med så många farhågor kring ansiktsigenkänningsteknologin, behöver vi snarast skapa en mycket större diskussion om teknikens påverkan på våra rättigheter och friheter. Utan ordentlig reglering av dessa system, riskerar vi att skapa fröet till dystopiska polisstater i vad som en gång varit fria, demokratiska länder. 

Texten är tidigare publicerad i The Conversation.
Översättning: Annie Hellquist

PRENUMERERA PÅ ETC HELG

Den här artikeln kommer från veckans ETC Helg.
Vill du prenumerera för under 16 kronor numret?
Här kan du teckna en prenumeration.