AI-gränsvakter testas längs Europas gränser

Under nio månader, längs gränserna mellan Ryssland och Lettland, Serbien och Ungern och Grekland och Norra Makedonien, kunde personer som korsade gränsen välja att ställa upp på ett videosamtal med en virtuell gränsvakt. I samtalet fick personerna svara på frågor om sin identitet och sitt bagage, samtidigt som AI läste av deras ansiktsuttryck för att bedöma om de talade sanning. Mjukvaran, iBorderCtrl, har utvecklats av det brittiska bolaget Silent Talker, som hävdar att en persons omedvetna ansiktsuttryck avslöjar lögner. Försöket, som avslutades i somras, är finansierat av EU:s forsknings- och innovationsprogram Horizon 2020, som har målet att producera världsledande forskning och innovation i EU.

Men att lögner kan utläsas ur ansiktsuttryck är omstritt. Silent Talkers teknologi lutar sig mot teorier om känsloigenkänning, som är mycket kritiserade. Dessutom har ansiktsigenkänningsteknik som sådan i en mängd fall visat sig bära på diskriminerande utfall, på grund av att AI:n ofta tränats upp på ett skevt urval. När tidningen The Intercepts reporter, som första journalist, testade systemet vid den serbisk-ungerska gränsen, tolkade den virtuella gränsvakten fyra av 16 svar som falska, trots att reportern svarade sanningsenligt på alla frågor.