Johanna Grönbäck: Stort hot mot hederliga medborgare
När Europaparlamentet tidigare i juni röstade om sin förhandlingsposition kring EU:s framtida reglering av artificiell intelligens var övervakning den stora tvistefrågan. Parlamentet landade, med överväldigande marginal, i att vilja förbjuda det helt. Bara 28 röstade emot förslaget och förbudet, medan 499 röstade för. Bland de 28 var nästan en tredjedel svenskar.
Johanna Grönbäck
är statsvetare och kommunikationschef på Ratio.
AI-övervakningen handlar närmare bestämt om ansiktsigenkänning i realtid och på allmänna platser. Det är tekniken från den dystra utopin eller den dramatiska actionfilmen, nu högst verklig. När man går förbi en kamera med realtidsövervakning scannas ens ansikte automatiskt och jämförs med hjälp av AI mot miljontals foton som finns lagrade i en databas. Alla som går förbi scannas, hela tiden. På andra sidan systemet går det alltså att kartlägga en persons rörelser, oavsett vem denna är. Det görs ingen särskiljning mellan de som passerar kameran, alla fångas upp.
Tekniken används i dag i fler än 100 länder. Dess syfte kan variera. I Kina, som har hälften av världens övervakningskameror, används det för poängsättning av medborgare. Personer övervakas och identifieras och deras dagliga handlingar poängsätts med effekter på bland annat möjligheter till banklån och tillgång till vård. I den indiska 38-miljonersstaten Telangana hörs oro för att det nu riskerar användas emot muslimer och andra minoriteter. I Storbritannien har polisen flera gånger häktat personer som av kamerorna felaktigt flaggats som kriminella.
”Det är tekniken från den dystra utopin eller den dramatiska actionfilmen, nu högst verklig.”Johanna Grönbäck
Inom den Europeiska unionen har därför ett av de viktiga och också historiskt förankrade argumenten emot denna form av ansiktsigenkänning varit att EU är något annat, att vi särskiljer oss positivt från länder som använder denna massövervakning (ett ord som ofta används slängigt, men som i detta sammanhang är exakt vad det är: En ständig övervakning av alla, utan särskiljning och utan föregående brottsmisstanke).
Det är olyckligt att den svenska debatten om integritet inte har kommit dit, vilket också speglas i hur flera av de svenska parlamentarikerna röstade. Här saknas samma historiska förståelse för vad massövervakning gör och riskerar göra mot ett samhälle och mot dess fria individer.
M, KD och SD röstade nej till förbudet och hela AI-lagen, de tidigare två med hänvisning just till övervakningen. De ville nämligen tillåta denna vid tre undantag: Vid terrorattentat, när barn försvunnit och när polis jagar gärningsmän för grova brott. Det skrev också svenska S under på.
Men det finns inga exempel på när denna teknik har förhindrat ett terrorattentat eller hjälpt till att hitta en försvunnen person. Det finns däremot mängder av exempel på när tekniken har inneburit att fel personer har arresterats. AI gör återkommande felmatchningar, så att en oskyldig person flaggas som kriminell. Det hände nyligen en 14-årig brittisk kille i skoluniform, varpå polisen krävde honom på id-handlingar som få 14-åringar i världen äger. Dessa felarresteringar drabbar i högre utsträckning icke-vita personer, eftersom AI är sämre på att särskilja en exempelvis en mörkhyad från en annan. Det är inte ett system som skapar tilltro till polisen, övriga rättsväsendet eller till staten överhuvudtaget.
”Hederliga medborgares rätt till trygghet måste gå före grovt kriminellas integritet”, skrev moderata företrädare som argument för AI-övervakningen. Men AI-övervakningen är i dagsläget det motsatta: Ett hot mot hederliga medborgares rätt till trygghet. Europaparlamentet röstade rätt.
