”Anonym” ansiktsigenkänning börjar testas i svenska butiker

2020-08-20 06:00  

Ett svenskt startup-bolag tror sig ha knäckt de etiska problemen som är förenade med ansiktsigenkänning. Ett klartecken från Datainspektionen innebär att tekniken nu får testas i svenska butiker.

Är den fysiska butikens dagar räknade? Läget ser onekligen mörkt ut: Under 2020 har covid-19 och en allt tuffare konkurrens från e-handeln satt stenhård press på butiksägare världen över.

Ansiktsigenkänning – utan att privata data lagras

Nu ligger ett purfärskt startup-bolag från Sundsvall i startgroparna för att börja testa ny teknik med potential att förändra hur den fysiska handeln kan förstå sina kunder.

Anonym ansiktsigenkänning låter som en paradox. Ändå är det precis detta som företaget Indivd, grundat 2018, arbetar med. Bolagets egenutvecklade och snart patenterad lösning ska hjälpa fysiska handlare att kunna identifiera butiksbesökare – utan att några personuppgifter sparas.

Läs mer: Löftet från svenska bolaget: ”Anonym ansiktsigenkänning”

Nyligen kom ett beslut från Datainspektionen om att Indivds lösning lever upp till de särskilt tuffa krav som ställs för ansiktsigenkänning i dataskyddsförordningen gdpr. Detta efter en utförlig granskning i form av ett så kallad förhandssamråd, där man bland att gjort en konsekvensbedömning av databehandlingen som Indivd vill göra för att avgöra om den är tillåten eller inte.

Det positiva beskedet från myndigheten är en milstolpe för det unga bolaget.

– Det är en fantastisk nyhet för oss. Vi har velat testa pilottesta tekniken ute i fält under en längre tid, men utan grönt ljus från Datainspektionen har det inte varit möjligt, säger Fredrik Hammargården, medgrundare av Indivd.

"Butiker vet knappt något om kunderna"

Individ är bara ett av flera bolag som utvecklar system för ansiktsigenkänning för butiker. Tekniken har seglat upp som en het trend inom detaljhandeln under senaste åren. I branschen finns stora förhoppningar om att den typen av lösningar ska hjälpa till att täcka ett betydande kunskapsglapp som finns mellan den fysiska och digitala verkligheten.

E-handlarna samlar in omfattande mängder data om sina kunder, och vet i princip allt från vad du bor, till vilka andra sajter du brukar besöka – och vad dina intressen är. Den fysiska handeln vet å andra sidan mycket litet om sina återkommande kunder, exempelvis.

– Många handlare får förlita sig på besöksmätare eller till och med uppmanar personalen att följa efter kunderna i butik. Hur ska handlarna kunna skapa bra butikslösning om man knappt vet något om sina besökare? Med vår teknik kan vi mäta alltifrån hur folk rör sig i affärerna, till vilka produkter som drar till sig mest blickar och hur nya butikskoncept tas emot hos kunderna, säger han.

– Den typen av insikter gör att vi kan hjälpa handlarna att hitta smartare affärsmodeller och minska investeringsriskerna när nya butiker ska byggas upp, vilket ofta är mycket kostsamt.

Kontroversiell teknik

Olika typer av insamling av privata data sker i dag kontinuerligt i många delar av vårt samhälle, inte enbart av e-handlare och tech-jättar. Men i synnerhet ansiktsigenkänning och insamling av så kallade biometriska data, information som gäller våra fysiologiska egenskaper, är ett känsligt ämne. Efter mordet på George Floyd av amerikansk polis har flera stora teknikbolag, som IBM och Amazon, bestämt sig för att sluta sälja sin teknik för ansiktsigenkänning.

Läs mer: Polisen: Vi börjar använda ansiktsigenkänning i höst

Även inom detaljhandeln är ansiktsigenkänning kontroversiellt. I Chicago i USA har en kvinna stämt den stora varuhuskedjan Macy´s för dess användning av tekniken. Problemet med den typen av system, enligt Fredrik Hammargården på Individ, är att dessa inte har utvecklats med en kärna som i grunden är integritetsbevarande.

– Användningen av ansiktsigenkänning är diskriminerande rent generellt. Vi har inte sett några andra exempel på en etisk användning av tekniken.

"Förenad med stora risker"

Han talar i egen sak, så klart. Flera gånger under intervjun återkommer Fredrik Hammargården till vikten av personlig integritet, och att anonymisering bör tas på större allvar i takt med att insamling av privata data ökar. Det kan ses som en uträknad strategi, med tanke på tekniken som Individ utvecklar och hoppas kunna sälja. Men hans engagemang i frågan är tydligt.

– Ansiktsigenkänning är en disruptiv teknik som också är förenad med stora risker som kan kränka mänskliga rättigheter. Men vi tror att det går att vara både innovativ inom det här teknikområdet, och samtidigt efterfölja lagar som finns för att skydda den personliga integriteten.

Läs mer: Efter protesterna i USA – IBM slutar med ansiktsigenkänning

Indivd har ägnat två år åt en process där olika experter inom gpdr och säkerhet har granskat bolagets teknik ur ett juridiskt perspektiv.

– För oss är det självklart att verksamheten ska bygga på privacy by design, det vill säga att det finns ett inbyggt dataskydd redan från början när tekniken utvecklas.

Av affärsmässiga skäl är Indivd dock fortfarande ganska förteget om hur bolagets teknik för anonymiserad ansiktsigenkänning fungerar. I praktiken kan Individs system, som bygger på maskininlärning och djupa neurala nätverk för att identifiera ansikten, anslutas till befintliga övervakningskameror som finns i butikerna.

Fragment av identiteten sparas

De digitala bilder som Individs system använder från bevakningskamerorna för identifiering anonymiseras lokalt efter 1–2 millisekunder, och sparas sedan krypterad på en molnserver. Det som är unikt med tekniken är att systemet läser av ansikten, men enbart sparar ett fragment av identiteten.

– Det innebär att vår ansiktsigenkänning bygger på strikt anonymiserad data. Den enda datapunkt som vi sparar går inte att koppla till en fysisk person. Men genom att samla in tillräckligt stora mängder data kommer vi ändå kunna ta fram träffsäkra insikter och analyser om butikskunderna i form av statistiska modeller.

Vilka fysiska egenskaper hos kunderna kan ni klassificera?

– Det handlar om man, kvinna och ungefärlig ålder i ett spann på plus-minus fyra år. Resten handlar om beteendemässiga insikter, som kundernas rörelsemönster, köpbeteenden och så kallade objektsdata, till exempel om vilka produkter som drar till sig mest uppmärksamhet i butiken. Vi vill bevisa är att det går att få fram högkvalitativa kundinsikter – samtidigt som datainsamlingen är anonymiserad.

"Första pilottestet i september"

I skrivande stund förhandlar Indivd med flera svenska företag om att inleda pilottester av tekniken ute i butiker under hösten. Inget är påskrivet än, men Fredrik Hammargården är självsäker och tror att ett första avtal kan vara påskrivet i slutet av augusti. Om han och resten av Indivd får som de vill kommer fem pilottester att genomföras i Sverige i höst, med start från september. Flera aktörer har hittills visat intresse för tekniken – allt från stora kedjor till små och medelstora företag.

Läs mer: Regeringen vill prova ansiktsigenkänning

– Första testet kommer sannolikt att genomföras i Stockholm, men vi hoppas kunna få en spridning på butikerna som både är geografisk och omfattar flera affärsvertikaler. När väl tekniken är på plats tror jag att vi kommer kunna börja leverera kundanalyser rätt snabbt. Men det är en inlärningskurva även för oss. Vi är ett litet bolag, och i slutänden är kvaliteten på analyserna det allra viktigaste.

Ställer krav på it-säkerheten

I och med pilottesterna blir Indivd inte bara teknikleverantörer utan i praktiken även personuppgiftsbiträden med uppgift att behandla de personuppgifter som butikernas bevakningskameror samlar in.

Det innebär bland annat att bolaget måste kunna garantera att behandlingen av dessa data uppfyller kraven i gdpr, och att den registrerades – i det här fallet butikskundens - rättigheter skyddas.

– Det ställer krav på den lokala it-säkerheten i butikerna. Där får vi en uppgift att vägleda handlarna så att en teknisk infrastruktur, som brandvägg och lösenordsrutiner, finns för att förhindra att affärsmässigt känsliga data läcker. Vi stöttar också våra kunder att leva upp till GDPR på alla sätt och vis. En av de insatserna är att hjälpa dem leva upp till informationsplikten som personuppgiftsansvarig, det vill säga butikerna, har.

Måste förklara tekniken enkelt

En annan svårighet som Indivd och handlarna behöver lösa tillsammans är att enkelt kunna förklara för butikskunderna hur tekniken fungerar. I sitt yttrande skriver Datainspektionen att butiksägarna är skyldiga att tillhandahålla information till de registrerade som är klar och tydlig – även om tekniken är komplicerad.

– Tekniken är avancerad, men jag håller inte med om att skulle vara svårt för butikerna att ge lättförståelig information. Datainspektionen ger tydliga rekommendationer för hur det ska kunna ske, exempelvis genom att ha skyltar eller broschyrer vid entrén, samt att länka till informationssidor på nätet via qr-koder som placeras ut i butikerna.

Det hela kokar ner till förtroende. Hur ska kunderna kunna lita på att ni hanterar data på rätt sätt?

– Ur kundernas perspektiv kan jag fatta att ansiktsigenkänning i butiker känns nytt och kanske främmande. Datainsamling sker på en mängd sätt i samhället, men vad vi garanterar är att den sker på ett säkert och helt anonymiserat sätt. Förhandssamrådet från Datainspektionen visar dessutom att vår teknik lever upp till gdpr, som är världens tuffaste dataskyddsförordning.

Om allt går som Fredrik Hammargården hoppas kommer Indivds teknik finns i butiker i hela Europa inom fem år. Ett framtida bruk inom brottsbekämpning är dock uteslutet, eftersom det inte går att spåra och identifiera specifika personer med Individs teknik.

– Vi ser så klart andra tillämpningar än bara för handeln. På sikt tror jag att vår teknik också kan vara högintressant för större handelsplatser, gallerior och stadskärnor.

Fakta Indivd

Gör: Teknik för anonymiserad ansiktsigenkänning.

Grundat: 2018.

Ort: Sundsvall.

Antal anställda: 4 och 4 konsulter på heltid.

Grundare: Fredrik Hammargården, Victor Molén, Andreas Hjorth, Carl Johard, Leonard Johard.

Så funkar Indivds teknik

Indivd X är namnet på Sundsvallsbolagets egenutvecklade lösning för anonym ansiktsigenkänning för den fysiska handeln. Systemet bygger på maskininlärning och beräkningar utförda i djupa neurala nätverk för att identifiera och klassificera butiksbesökare utan att några personuppgifter lagras.

Väl installerat kan Indivd X använda bilddata från övervakningskameror som redan finns i butikerna. Systemet filtrerar sedan bort all information som kan användas för att identifiera personerna på övervakningsbilder. Det enda som blir kvar är ett "fragment av identiteten", enligt Indivd.

Det anonymiserade bildmaterialet skickas sedan i krypterad form till en molnserver, och används där av Indivds programvara för att fram olika analyser om butikskunderna. Det handlar exempelvis om hur många män respektive kvinnor som har besökt butiken, eller vilka folkgrupper som väljer att göra ett återbesök.

I systemet finns också automatiska funktioner som filtrerar bort butiksanställda och barn från bilddata som analyseras.

Kalle Wiklund

Kommentarer

Välkommen att säga din mening på Ny Teknik.

Principen för våra regler är enkel: visa respekt för de personer vi skriver om och andra läsare som kommenterar artiklarna. Alla kommentarer modereras efter publiceringen av Ny Teknik eller av oss anlitad personal.

  Kommentarer

Debatt