”Algoritmer utan etik ger ai utan moral”

Data om våra beteenden är det nya guldet. Vi träder in i en ny datadriven era där alla organisationer behöver omfamna artificiell intelligens, både för att skapa värde inom organisationen och mot kund. Kunder och medborgare förväntar sig personifierade tjänster och rekommendationer baserade på ai. Organisationer som inte lever upp till dessa förlorar snabbt relevans.

Potentialen för värdeskapande och effektivitetsvinster i organisationer, i samhället och för individer är enorm. Men, tekniken galopperar och de kortsiktiga vinsterna relaterade till ai kan ibland vara förföriska.

Samtidigt som fantastiska möjligheter skapas med algoritmer och stora datamängder uppkommer kritiska avväganden som behöver adresseras. Vinster behöver ställas mot etiska avväganden. Till exempel, hur mycket information om en kunds kritiska livssituation är okej att använda för att maximera försäljning? Var dras gränsen? Hur kan vi identifiera ai-beslut och rekommendationer som är baserade på historiska fördomar? Hur kan vi skapa översikt, spårbarnet och styra ai mot mer långsiktigt försvarbara etiska principer?

Oavsiktliga negativa etiska konsekvenser av ai kan undvikas genom att implementera en aktiv och holistisk strategi kring hur kunders data hanteras på ett långsiktigt hållbart och etiskt sätt.

Fokus och intresset kring ai:s implikationer i en bredare etisk kontext exploderar just nu. Inom akademin har till exempel Stanford och Harvard börjat erbjuda kurser i ai och etik. Inom politiken börjar man diskutera standarder, och företag ingår partnerskap för att försöka greppa frågan. Googles Deepmind har just inrättat en forskningsenhet för ai och etik. En färsk studie gjord vid MIT och Boston Consulting Group visar ett betydande kunskapsgap och låg riskmedvetenhet bland företagsledare.

Varför är det så svårt att överblicka och styra ai? Explicita och implicita antaganden reproduceras av självbärande algoritmer på ständigt föränderliga data. Det gör att etiska ställningstaganden och avväganden blir svåra att överblicka. Detta gäller eftersom ai, i de flesta fall, programmeras mot målvariabler som vinst, försäljning och produktivitet i olika organisatoriska silos.

Vissa kritiker menar att ai integreras i sociala sammanhang utan att det finns förmågor att mäta resultatet. De liknar det vid att utföra ett experiment utan att bekymra sig om att notera resultatet.

Det finns ett antal etiska oavsiktliga negativa konsekvenser med ai som jag vill lyfta. Jag vill samtidigt skapa optimism kring att dessa risker och konsekvenser går att undvika. Inte nog med att de kan undvikas; ai kan även stärka etiska principer och hållbarhetsarbete samt öka dess positiva inverkan på samhället.

Missbruk av ai och data

Olika öppen data kombineras och skapar intelligens som är integritetskränkande för individen. Exempelvis kredit- och långivningsprocesser – hur mycket information är etiskt försvarbart att använda?

”Bias of the creator”

Ai är inte neutralt. Etiska värderingar görs medvetet eller omedvetet av hen som skriver algoritmen. Oftast är det en man. Olika värderingar kan dessutom göras i olika delar av organisationen av programmerare som saknar förståelse om hur algoritmen skalas upp i en bredare etisk kontext.

Otränad ai

Applikationer med ansiktsigenkänning har visat sig misslyckas med att läsa av mörkhyade kvinnor eftersom den tränats för lite på dessa ansikten.

Data bias

När datan som algoritmen tränas på inte reflekterar verkligheten eller den önskade verkligheten. Dessutom kan historiska fördomar i datan föras vidare. Det leder exempelvis till att rekommendationer och beslut baseras på historiska manliga normer. Ett exempel är när ai används för att förstå och förutse vad som karakteriserar framgång för anställda inom ett företag. Om data kring en befordringsprocess samlas inom en bransch som systematiskt befordrat män framför kvinnor leder detta till att vi fastnar i förlegade värderingar.

Lika viktigt som att omfamna ai är det att skapa transparens, förutsägbarhet och ansvar kring hur algoritmerna skalas i en bredare etisk kontext. Kunder och medborgare kommer i allt större utsträckning ställa organisationer till svars och kräva kommunikation kring en organisations etiska ställningstaganden. Att stärka de etiska principerna kring mångfald, miljö och jämställdhet kan bli en konkurrensfördel för organisationer. Vilken möjlighet! Ai är inte en magisk black box.

Anna Felländer Digitaliseringsekonom, affilierad fakultet KTH och senior rådgivare