Amazons ansiktsigenkänning flaggade politiker som kriminella

2018-07-30 08:57  
Foto: ACLU

535 kongressmedlemmar samkördes med 25 000 förbrytarfoton i Amazons ansiktsigenkänning. 28 politiker identifierades felaktigt som en av de kriminella. Mjukvaran anklagas dessutom för att vara rasistisk.

Med ”Rekognition” tog Amazon klivet in i säkerhetssektorn, och amerikanska myndigheter har snabbt tagit till sig produktens ansiktsigenkänning och sett potentialen för övervakning av det offentliga rummet. Med Amazons molnplattform i ryggen och stora möjligheter att själv skräddarsy ett system med djupinlärning kan kartläggningen finjusteras. Till detta erbjuder Amazon sitt säkerhetspaket för en mycket låg månadskostnad.

Rekognition har redan testats av polisen i Orlando, vilket ledde till protester från medborgarrättsgrupper. De upprördes över att man lyckades introducera tekniken utan någon föregående diskussion eller debatt kring integritetsfrågan och övriga risker. I Florida är pilotprojektet avslutat då den angivna testtiden tog slut, men protesterna har fortsatt.

Läs mer: Glöm id-kortet – så här kan vi identifiera oss med kroppen

Bland kritikerna finns American Civil Liberties Union. Nyligen genomförde de ett eget test som försöker dra ned byxorna på Amazon och de myndigheter som förespråkar systemet. ACLU tog bilder på 535 kongressmedlemmar och körde dem genom Amazons öppna Rekognition API tillsammans med 25 000 förbrytarfoton hämtade från offentliga register. Systemet identifierade 28 av politikerna som en person ur förbrytargalleriet (där ingen av dem var med).

Till The Verge säger dock en representant för Amazon att ACLU:s resultat beror på att de genomförde testet med en felaktigt inställd tolerans. En 80-procentig träffsäkerhet duger exempelvis när det kommer till att identifiera bilder på varmkorvar – men vid ansiktsigenkänning för polisen rekommenderar Amazon att toleransen sätts till minst 95 procent.

Elva av Rekognitions felbedömningar var icke-vita ledamöter (cirka 39 procent av hela gruppen), och det tyder enligt ACLU på att systemet dessutom har inbyggda fördomar baserade på ras. Nu har medlemmar ur the Congressional Black Caucus skickat ett brev till Amazons vd Jeff Bezos. Där uttrycker de en oro kring risken för ”påtagliga negativa oavsiktliga konsekvenser” som ansiktsigenkänning skulle kunna innebära för afroamerikaner, papperslösa och demonstranter. Till Tech Crunch meddelar dock Amazon att man inte delar oron.

Läs mer: Kinas teknik plockade ut ett ansikte bland 60.000

”Vi är fortsatt nöjda över hur bild- och videoanalys kan vara en drivkraft för det goda i världen, vilket inkluderar offentlig sektor och rättsväsendet”, skriver Amazon.

Polisen i London har länge använt ansiktsigenkänning, och deras system ger upp till 49 felmatchningar för varje korrekt träff.

John Edgren

Kommentarer

Välkommen att säga din mening på Ny Teknik.

Principen för våra regler är enkel: visa respekt för de personer vi skriver om och andra läsare som kommenterar artiklarna. Alla kommentarer modereras efter publiceringen av Ny Teknik eller av oss anlitad personal.

  Kommentarer

Debatt