”Ai-systemen kräver både nya regler och egna revisorer”

2019-03-27 08:30  
Josefin Rosén, ai-expert, Principal Advisor Analytics, Financial Services Nordics, SAS Institute.

Det här är en debattartikel. Åsikterna som framförs är skribentens egna.

DEBATT. Vi måste enas om en gemensam värdegrund för den framtid vi designar med hjälp av artificiell intelligens. Granskning av etik och hållbarhet måste bli en självklar del i alla ai-projekt, skriver Josefin Rosén från SAS Institute.

Ai-utvecklingen kan skapa påtagliga mervärden för hela samhället. En positiv utveckling innebär ett samspel mellan artificiell intelligens och människa, där båda ”parter” får göra det man är bäst på och samtidigt dra nytta av varandra. Men denna utveckling följer inte någon naturlag.

Ai kommer att ge stor påverkan på både arbetsprocesser och individens roll i dessa processer. Tidigare har vi kunnat vara förvissade om att de bedömningar och avvägningar som kräver mänskliga förmågor har fått tillgång till dessa. Människan har haft makten över tekniken och varit garanten för att processen utförts med moralisk kompass.

Etik behöver bli en självklar del i alla ai-projekt. På samma sätt som vi skriver historien, skriver vi nu vår framtid. Nu måste vi också skriva in etiken i den design vi gör för och med artificiell intelligens.

Hörnpelare i ramverket

Ai behöver ramverk som kan förebygga en oönskad, och säkerställa en hållbar, utveckling. Det finns olika initiativ för hur dessa ramverk kan utformas. Följande punkter behöver vara hörnpelare i ett ramverk för en hållbar ai-utveckling.

Oberoende. Algoritmer är inte neutrala. De lär sig från data. Om data är suboptimerad och speglar fördomar, diskriminering och okunskap lär sig ai-systemen samma sak. Ett ramverk måste verka för att hjälpa till att balansera utvecklingen. Kevin Casey har skrivit om nio frågor som ledare bör ställa sig för att förebygga att ai-projekten får slagsida.

Ansvarstagande. Ansvaret för ai-utvecklingen är inte något som bara kan lämnas över till en begränsad grupp, exempelvis it-avdelningen. Ai kommer för många verksamheter ge så stora konsekvenser för verksamheten att man även internt behöver se över beslutsprocesser och ansvar för dessa frågor. Ai måste vara en ansvarsfråga för ledning och styrelse.

Transparens. Etablera transparens kring projekten och processerna och se till att det finns en plan som även adresserar olika scenarier. I verksamhetsrapporter bör det finnas en tydlighet om pågående ai-relaterade projekt. Med transparens får projekten och processerna också ökad förståelse, legitimitet och förankring inom organisationen och i relation till andra intressenter.

Förklarbarhet och förmåga att kommunicera bakgrund till beslutet. Det handlar om att göra modeller som ligger till grund för besluten och utfallen begripliga och tolkbara. Maskinlärande modeller är per definition komplexa och svåra att förstå utan bra verktyg för detta.

Ai-systemen och etikens tillämpbarhet måste kunna tåla en granskning. Särskilda ai-revisorer bör ha som uppgift att säkerställa hur projekten svarar mot människans intressen för överlevnad och hållbar utveckling. Ai-revisorerna behöver ha olika kompetenser för att kunna granska data, algoritmer och modellernas utfall. De ska även säkerställa de etiska, juridiska, antropologiska och samhälleliga konsekvenserna.

Lovvärda initiativ

Initiativ som nationella ai-centret, AI Innovation of Sweden, med bas i Göteborg, och AI Sustainability Center i Stockholm är lovvärda, och ramverket och regelverket kan utvecklas med dessa plattformar som centrala samverkande aktörer.

En ai-agenda är dock inte något som ska etableras av enkom teknokrater och företag (de som i dag till stor del är drivande inom ai). Företag, akademier, myndigheter och centrala samhällsbyggare behöver samlas kring en agenda för ett gemensamt ramverk, och en värdegrund.

Parallell utveckling

Agendan måste kunna utformas så att den säkrar långsiktigt innovationsdrivet samhällsbyggande och speglar det samhälle vi vill leva i. Ai-utvecklingen är redan i full gång och vi kan inte vänta på utredningar som ska ge svar på hur ramverket optimalt ska och kan se ut.

Ett hållbart ramverk behöver utvecklas parallellt och i process för att ta tillvara erfarenheter från pågående projekt. I denna process behöver etik och hållbarhet vara självklara utgångspunkter.

Josefin Rosén

AI-expert, Principal Advisor Analytics

Financial Services Nordics, SAS Institute

Kommentarer

Välkommen att säga din mening på Ny Teknik.

Principen för våra regler är enkel: visa respekt för de personer vi skriver om och andra läsare som kommenterar artiklarna. Alla kommentarer modereras efter publiceringen av Ny Teknik eller av oss anlitad personal.

  Kommentarer

Dagens viktigaste nyheter

Debatt