”Så kan Sverige ta ledning i tillförlitlig användning av ai”

2021-05-12 09:00  

Det här är en debattartikel. Åsikterna som framförs är skribentens egna.

DEBATT. Användningen av ai i olika former kommer få allt större betydelse i våra liv och ekonomier framåt. Men människor måste kunna lita på systemen, skriver fyra ai-experter.

Artificiell intelligens (ai) är i dag en självklar del av vårt digitala liv i form av sökmotorer, digitala assistenter, köprekommendationer och många andra tillämpningar. Utvecklingen av ai accelererar och kommer få allt större betydelse, såväl ekonomiskt som socialt. 

Samtidigt finns det legala och etiska frågeställningar som behöver adresseras. EU-kommissionens förslag till ai-förordning som presenterades i den 21 april är ett första förslag till rättslig reglering av användningen av ai. Svenska företag och myndigheter borde välkomna EU:s initiativ, ta täten och leda utvecklingen av tillförlitlig ai så att medborgare och kunder kan känna tillit till hur ai används och påverkar deras liv.

Den 21 april presenterade EU-kommissionen ett initiativ med ambitionen att göra Europa till ett globalt centrum för tillförlitlig ai. En del av förslaget utgörs av en ny rättslig ram, en ai-förordning, det första i sitt slag i ett globalt perspektiv. 

Förslaget innebär att ai-system delas in i olika kategorier utifrån ett riskperspektiv; minimal, begränsad, hög och oacceptabel risk. Ai-användning som anses medföra oacceptabel risk och därmed förbjuds är till exempel ai-system som manipulerar människors beteenden för att kringgå användarnas fria vilja. 

Inom kategorin hög risk faller bland annat tillämpningar i kritisk transportinfrastruktur och sjukvård. Medan ai inom denna kategori blir föremål för en rad skyldigheter innan de får introduceras, ställs det endast krav på transparens för kategorin begränsad risk och de som innebär minimal risk faller helt utanför regleringen. Framtagande av kompletterande självreglering i form av uppförandekoder uppmuntras.

Användningen av ai i olika former kommer få allt större betydelse i våra liv och ekonomier framåt. Utvecklingen går mycket snabbt också inom den publika sektorn där även beslut av myndigheter kommer att baseras på underlag framtagna genom ai. Förutsättningen för att detta ska fungera är att människor känner trygghet i att ai används på ett sätt som går att lita på. Detta kräver ändamålsenlig reglering vilket är just det som ai-förordningen avser att säkerställa. 

Även om regleringen främst siktar in sig på ai-system med oacceptabel och hög risk, är tillförlitlighet lika relevant för andra ai-system. Fallgropar finns också för sådana tillämpningar, och skadan kan bli stor för ett företags varumärke eller myndighets anseende om det går fel. 

Med anledning av EU-kommissionens förslag har vissa röster rests emot en ai-reglering. Farhågor finns för att den fulla nyttan av ai-tillämpningar inte kommer kunna tas tillvara och att europeiska företag därmed kommer halka efter bolag i länder som USA och Kina. 

Och visst kommer svåra intresseavvägningar i vissa fall behöva göras, inte minst gällande hur förklarbara vi bör kräva att ai-system ska vara i sin funktionalitet och träningsdata, för vem, och hur ansvar bäst bör fördelas. Det är viktigt att dessa frågeställningar kommer upp i ljuset. 

I Sverige finns såväl en stark tillit från medborgarnas sida till samhällets institutioner som en hög grad av innovationskraft och tekniskt kunnande samt en allt större insikt om betydelsen av ESG (Environment, Social and Governance) för att bedriva en framgångsrik verksamhet. Det är en unik kombination som vi borde dra nytta av i detta sammanhang. 

Svenska företag och myndigheter borde därför:

  • Välkomna att EU tagit tydlig ställning för en tillförlitlig användning av ai.  
  • Stärka sitt ledarskap genom att ta fram egna etiska principer för användningen av ai och även delta i arbetet för kompletterande, gemensamma uppförandekoder för såväl offentlig förvaltning som näringsliv.
  • Integrera riskbedömning av ai i sina interna processer.

Detta kommer underlätta och driva på utvecklingen av ai snarare än att försvåra den. 

Christer Forsberg Philip, vd AI Sustainability Center

Anna Felländer, grundare av AI Sustainability Center

Ingrid Stenmark, senior rådgivare AI Sustainability Center, tidigare chef för etik, regelefterlevnad och riskhantering på Telia Company

Stefan Larsson, docent i teknik och social förändring vid Lunds universitet

Kommentarer

Välkommen att säga din mening på Ny Teknik.

Principen för våra regler är enkel: visa respekt för de personer vi skriver om och andra läsare som kommenterar artiklarna. Alla kommentarer modereras efter publiceringen av Ny Teknik eller av oss anlitad personal.

  Kommentarer

Dagens viktigaste nyheter

Debatt