Johanna Grönbäck: Johanna Grönbäck: Naiv tilltro till teknikens förmåga och objektivitet
IT-företaget IBM meddelade häromdagen att de slutar erbjuda verktyg för ansiktsigenkänning. De inte vill bidra till teknik som används för massövervakning, rasprofilering eller kränkningar av mänskliga rättigheter, skriver företagets vd. Istället efterfrågas debatt kring om och hur tekniken bör användas.
Johanna Grönbäck
är statsvetare och kommunikationschef vid Ratio.
I Sverige meddelade regeringen närapå samtidigt att man lägger fram ett förslag som möjliggör för polisen att använda ansiktsigenkänning. Inledningsvis på Skavsta flygplats, men med en ambition att det ska införas på samtliga flygplatser med yttre gräns.
Ansiktsigenkänning är en teknik för att automatiskt identifiera en person via digital bild, oftast genom att några ansiktsdrag jämförs med bilder i en databas. I flera demokratier samlas foton in från såväl företags och staters övervakningskameror som polisers kroppskameror.
IBM:s vd Arvind Krishna kallar tekniken för ett tveeggat svärd: Rätt använt ger det trygghet för medborgare, fel använt motsatsen.
I London, där realtidsansiktsigenkänning används, skannades under en dag och specifik plats 8 600 personer och jämfördes mot en lista på 7 292 eftersökta. Ansiktsigenkänningen flaggade åtta personer som möjligen eftersökta. Av dessa var två uppenbara felmatchningar, fem oskyldiga som stoppades av polis och en som stämde. Utöver massövervakning har tekniken alltså inneburit att det i hög utsträckning är fel personer som identifieras och stoppas.
Tekniken fungerar sämre på mörkhyade. Risken för förväxling är 100 gånger högre för dem än ljushyade. Det är skälet till att BM Studios kunde berätta om en mörkhyad britt som kliver av bussen, småspringer till jobbet och stannas av polisen. Hans ansikte flaggas felaktigt av systemet varför hans normala morgonbeteende av polisen uppfattas som besynnerligt.
Där fångas en viktig del av integritetsfrågan. Ett vanligt beteende kan i en övervakad situation bli uppseendeväckande. För den övervakade betyder det en inskränkning av det vardagliga och naturliga, du slutar slappna av. I fallet med ansiktsigenkänningens problem att särskilja en mörkhyad från en annan läggs en ytterligare dimension till: Övervakningen kan innebära större inskränkningar för en grupp än en annan. Den blonda kan hinna till jobbet, den svarthåriga tas till förhör.
”I fallet med ansiktsigenkänningens problem att särskilja en mörkhyad från en annan läggs en ytterligare dimension till: Övervakningen kan innebära större inskränkningar för en grupp än en annan. Den blonda kan hinna till jobbet, den svarthåriga tas till förhör.”
I Sverige förekommer inte den övervakningen och att införa ansiktsigenkänning på flygplatser kan vara den sortens tydligt avgränsade åtgärder som är rimliga. Men när verktyget används på ett håll blir det alltid lättare att motivera att det ska användas på ett till, ett nytt.
”Jag tror att det finns en stor förståelse bland svenska folket för att vi behöver den här tekniken vid våra gränspassager”, säger justitieminister Morgan Johansson (S). Kanske för att politiker så sällan pratar om denna tekniks problem och svåra balansgång. Eller inte verkar lägga större vikt vid om tekniken faktiskt har önskad effekt.
