Microsofts expert: Artificiell intelligens färgad av mänskliga fördomar

2018-09-20 06:00  

Algoritmerna som används för att bygga dagens ai-system är full av unkna fördomar, varnar Microsofts ai-expert Ana Arriola. Som tur är kan vi fixa det.

Ana Arriola har varit på resande fot i ett dygn, men inte ett spår av trötthet syns i de mörka ögonen hos Microsofts expert inom artificiell intelligens.

Hon besökte nyligen Stockholm för att tala på framtidskonventet Me Convention, arrangerat av bland andra den amerikanska tech- och musikfestivalen South by Southwest.

Under besöket i stan träffade Ny Teknik Ana Arriola på innovationscentret Epicenter. Som en 187 centimeter lång transkvinna sticker hon i mängden, men Ana Arriola trivs som fisken i vattnet på Epicenter där Resolution Games, Fundedbyme och många andra unga, hungriga teknikbolag huserar.

Entusiasmen för Sverige och Stockholm går inte att ta miste på. Ana Arriola jobbade ett tag för Sony Ericsson i Lund, och intresset för svensk teknik har hållit i sig sedan dess.

– Kan ni berätta var Teenage Engineering håller till? Jag älskar deras hårdvara, det är en sådan fantastisk svensk design, säger hon på sprudlande amerikansk engelska.

Starkt engagerad i ai professionellt och privat

Ana Arriola har en minst sagt imponerade meritlista. Hon började som animatör och grafisk formgivare, men tog steget över till teknikbranschen i början av 90-talet.

Under sin 25-åriga karriär har hon bland annat jobbat med den första Iphonen hos Apple, samt utvecklat tjänster inom artificiell intelligens hos både Apple och Samsung.

Ana Arriolas senaste titel är ”design director” för artificiell intelligens och research på Microsoft och söktjänsten Bing. En av frågorna kring artificiell intelligens som hon är starkt engagerad i – både på professionellt och privat plan – är etiska frågeställningar kopplade till ai.

Skälet är djupt personligt. Som en lesbisk transkvinna med latinamerikanska rötter tillhör Ana Arriola en marginaliserad, underrepresenterad grupp i världen.

Läs mer: Expert: Det behövs en satsning på ai inom offentlig sektor

Ett brännande problem som enligt Ana Arriola måste lösas snabbt rör algoritmerna och de dataset – stora samlingar med strukturerad data – som används för att träna neuronnätverk.

Till skillnad från vad många tror är tekniken nämligen djupt färgad av inrotade mänskliga fördomar.

– Grunderna till dagens ai-system inom exempelvis datorseende utvecklades för 60 år sedan. Det har gjort att många gamla vanföreställningar följt med in i datamängderna. Tänk er till exempel att vi har en bild på ett kök, och frågar ett ai-system vad det kan berätta om fotot. ”Kvinna"” kommer då upp som en av toppträffarna bland parametrarna i systemet. Och vad tror du syns om vi gör en sökning på ordet ”vd”? Medelålders män, så klart. Detta är ett stort problem.

För att förhindra att gamla fördomar cementeras i dagens och framtidens ai-system måste något göras nu, menar Ana Arriola.

– Se till att få bort förlegad data och att ersätta den med sådan som är mer samtida.

Känner folk ens till att kod kan vara partisk?

– Inte de flesta, nej. Jag åkte taxi häromdagen med en tung expert inom bioteknik som först vägrade gå med på att problemet ens existerar. "Hur skulle kod kunna vara partisk?”, fräste han.

Ett särskilt stort ansvar har teknikjättarna och universitetsvärlden, säger Ana Arriola. Dessa skyldigheter handlar inte enbart om att motverka unkna fördomar utan också att förhindra att ai används för att göra skada.

Läs mer: Hypat ai-bolag från Lund korat till årets uppstartsbolag

Som exempel nämner hon ”deep fakes”, där ai används för att manipulera videoklipp. Resultatet är ofta så välgjort att många har svårt att förstå att det nya klippet är fejk. En video som har fått stor spridning är ett klipp där Barack Obama kallar president Trump för en "stor idiot". Men egentligen är det bara Barack Obamas ansikte och överkropp som har klippts in ovan på en skådespelares, med hjälp av maskininlärning.

– ”Deepfake” är resultatet av att ansvar inte har tagits. Alla forskare, oavsett om du jobbar på ett stort företag eller inom akademin har ett ansvar att se till att skadlig Ai inte utvecklas.

Men trots en stor okunskap om partiska algoritmer är Ana Arriola hoppfull inför framtiden.

– Det kommer att krävas mycket jobb och tid för att få till en förändring. Jag ser det som ett av mina viktigaste uppdrag hos Microsoft. Det här är dels en generationsfråga, och jag märker att mina barn och deras generation har ett annat förhållningssätt när det gäller könidentitet bortom normerna.

Ai är hett bland startups. Vad har du för råd till dem som börjar från noll och bygger helt nya ai-tjänster?

– Det viktigaste rådet jag har till unga entreprenörer som jobbar med maskininlärning är att inte försöka göra för mycket på en gång. Ai-tjänsterna blir bara så bra som datamängderna ni använder. Dagens ingenjörer måste också bli bättre på att lyssna på feedback från kunder och användare som inte tekniskt kunniga. Satsa på saker som löser riktiga problem och som gör samhället bättre.

Ana Arriola

Gör: Design director för artificiell intelligens och research på Microsoft och söktjänsten Bing.

Ålder: 45 år.

Bor: Seattle i USA.

Bakgrund: Har bland annat arbetat hos Adobe Systems, Apple, Facebook, Sony, Samsung samt drivit flera egna bolag.

Så jobbar teknikjättarna med ai och etik

Debatt kring eventuella faror med framtidens artificiell intelligens har gjort flera av världens största teknikföretag väldigt måna att prata om hur de arbetar med etiska frågeställningar kring ai.

Hos Facebook har det bildats ett särskit team vars uppgift är att hålla koll på etik och artificiell intelligens.

Google publicerade nyligen ett dokument med etiska principer som ska fungera som en regelbok för hur bolaget arbetar med ai.

Microsoft tillsatte förra året en intern rådgivningskommitté som ser till att alla produkter följer bolagets principer kring ai.

Kalle Wiklund

Kommentarer

Välkommen att säga din mening på Ny Teknik.

Principen för våra regler är enkel: visa respekt för de personer vi skriver om och andra läsare som kommenterar artiklarna. Alla kommentarer modereras efter publiceringen av Ny Teknik eller av oss anlitad personal.

Här är reglerna för kommentarerna på NyTeknik

  Kommentarer

Dagens viktigaste nyheter

Aktuellt inom

Debatt