Risk för fördomsfulla robotar undersöks

2020-12-21 07:29  

Är myndighetens robot sexist? Nu ska riskerna för att robotar för in ojämställd data i myndigheternas beslutsunderlag undersökas.

– Det här är ett pilotprojekt som handlar om riskerna för jämställdhetsproblem då statliga myndigheter använder artificiell intelligens, som Skatteverket och Försäkringskassan, säger Lena Ag, generaldirektör för Jämställdhetsmyndigheten.

Tillsammans med ett företag specialiserat på artificiell intelligens, AI Sustainability Center, ska Jämställdhetsmyndigheten undersöka jämställdhetsproblem då statliga myndigheter utvecklar artificiell intelligens.

Robotarna, eller botarna som de också kallas, lär sig av den data som de får in, och kan hjälpa till att sammanställa beslutsunderlag för handläggarna. Men det har visat sig att det kan finnas en baksida.

– I USA har man uppmärksammat att botar som skulle svara på frågor snabbt blev väldigt rasistiska och sexistiska.

Digitalisering

Skatteverket och Försäkringskassan vill utveckla AI-hjälpen, men också undvika att fördomar förs in i beslutsunderlagen, förklarar hon.

– Artificiell intelligens är en positiv del av digitaliseringen, rutinuppgifter kan göras enklare. Men det handlar om hur programmeringen görs.

Läs mer: Sverige världstvåa på framtidens teknik

I studien ska olika scenarier tas fram, och datan som förs in ska analyseras utifrån ett jämställdhetsperspektiv. Det handlar om att få robotarna att se upp för gamla fördomar, beteenden och oavsiktliga preferenser.

Backa jämställdheten

– Att algoritmer lär sig på historiska data riskerar att backa jämställdhetsarbetet. Det får inte hända, säger Anna Felländer, grundare av AI Sustainability Center, som ska göra studien tillsammans med Jämställdhetsmyndigheten.

Pilotstudien ska vara klar om ett år, och beräknas kosta 1,6 miljoner kronor. Därefter är syftet är att få fram en metod för att undvika att robotarna blir fulla av fördomar.

– Medborgarna ska kunna lita på att staten bemöter dem lika, säger Lena Ag.

Fakta: Artificiell intelligens

Artificiell intelligens, förkortat AI, innebär att datorer efterliknar hjärnans förmåga att dra slutsatser, planera, lösa problem, inhämta ny kunskap och förstå naturligt språk.

Det är också ett nytt forskningsområde inriktat mot konstruktion av datorsystem som uppvisar intelligent beteende.

Källa: Nationalencyklopedin

Johanna Cederblad/TT

Mer om: Robotar AI

Kommentarer

Välkommen att säga din mening på Ny Teknik.

Principen för våra regler är enkel: visa respekt för de personer vi skriver om och andra läsare som kommenterar artiklarna. Alla kommentarer modereras efter publiceringen av Ny Teknik eller av oss anlitad personal.

  Kommentarer

Debatt