”Hur ska konsumenter få rätt mot ett ai-system?”

2020-05-25 10:32  

Det här är en debattartikel. Åsikterna som framförs är skribentens egna.

DEBATT. Artificiell intelligens revolutionerar samhället och förenklar vardagen för konsumenten. Men vinsterna kan gå förlorade om det inte finns transparens och tillit, skriver Sveriges Konsumenter.

Från att ha varit stoft för noveller, filmmanus och akademiska uppsatser har artificiell intelligens, ai, snabbt blivit en del av vår vardag. Tekniken understödjer telefonens ansiktsigenkänning, beräknar den snabbaste vägen igenom stan och genererar träffsäkra sökresultat baserade på bland annat vår surfhistorik.

Ai och besläktade tekniker är så vida applicerade att de redan i dag får konsekvenser för vanliga människor. Därför behövs redan i dag också tydlig reglering och moderniserade tillsynsmöjligheter.

Ur ett konsumentperspektiv finns potentiellt stora vinster med användningen av artificiell intelligens. Vi på Sveriges Konsumenter beskriver ofta vinsterna som en bekvämare vardag. Samtidigt är bekvämlighet en otillräcklig term för att beskriva en äldre persons möjlighet att bo kvar i det egna hemmet eller en funktionshindrad persons möjligheter att genom röststyrning använda teknik som vi andra tar för given.

Men med möjligheterna följer utmaningar. Den största nackdelen med ai-system är att de i efterhand ofta har svårt att förklara sina beslut. När ett ai-system börjar fatta felaktiga beslut kan det med andra ord vara svårt att åtgärda problemet.

Och ai fattar ibland felaktiga beslut. Förra året uppdagades till exempel att Arbetsförmedlingens så kallade beslutsrobot för aktivitetsstöd fattat felaktiga beslut i uppemot 15 procent av fallen. Händelsen visar att automatiseringens löfte om ökad effektivitet lätt kan trumfa behovet av tillförlitlighet.

Brist på transparens och tillförlitlighet rimmar dåligt med konsumentskydd. När vi blickar ut i omvärlden ser vi att bland annat att försäkringsbranschen utforskar modeller baserade på persondata och automatiserat beslutsfattande. Tanken är att konsumenter genom att dela platsdata och köphistorik ska kunna bevisa att de har en låg riskbenägenhet.

Det är olagligt att basera försäkringspremier på kön, men frågan är hur försäkringsbolagen ska undvika detta om de inte har insyn i logiken bakom sina egna beslut. Amazon tvingades exempelvis avveckla ett rekryteringsverktyg baserat på maskininlärning eftersom det visade sig diskriminera kvinnor.

Allt detta lyfter frågeställningar om hur konsumenter ska kunna bevisa att de blivit felaktigt behandlade när bevisen är dolda i en algoritmisk djungel och om hur tillsynsmyndigheter ska kunna kartlägga marknader där priser anpassas på individnivå.

Det går också att fråga sig hur många företag som känner sig trygga med att för sina kunder inte kunna förklara besluten de tar.

Genom tydlig reglering kan incitament skapas för innovation som ökar ai-systemens transparens och därigenom stärker konsumenters tillit. Företag kan stärka sina positioner genom att erbjuda system baserade på likabehandling och konsumenträttigheter, trygga i att tillsynsmyndigheter kan se till att alla konkurrerar på samma villkor.

Sveriges Konsumenter vill att:

1. Företag eller organisationer som använder sig av ai-system på begäran ska kunna demonstrera att deras system följer relevant lagstiftning, exempelvis genom att erbjuda tillsynsmyndigheter insyn i systemet.

2. Lagstiftning som gäller ai ska baseras på risken för allvarliga konsekvenser. Användningsområden med högre risk bör underställas strängare krav.

3. Konsumenter ska ha rätt att motsätta sig automatiserat beslutsfattande samt ha rätt att veta vilka data som används, för vilket syfte dessa data används och vem som får tillgång till dem.

Ai kommer att spela en självklar och avgörande roll i framtidens konsumentvardag och samhälle. Att tekniken kan bidra till ökad konsumentnytta och lösningar på avgörande samhällsfrågor är obestridligt. Men för att denna potential ska förverkligas krävs att konsumenter och företag vill använda och kan lita på tekniken.

Sinan Akdag,

digital expert Sveriges Konsumenter.

Kommentarer

Välkommen att säga din mening på Ny Teknik.

Principen för våra regler är enkel: visa respekt för de personer vi skriver om och andra läsare som kommenterar artiklarna. Alla kommentarer modereras efter publiceringen av Ny Teknik eller av oss anlitad personal.

  Kommentarer

Dagens viktigaste nyheter

Debatt