Data är grunden för AI – men hur ska den samlas in?

Artificiell intelligens, AI, är något det har pratats om ett bra tag nu och under årens lopp har den tekniska utvecklingen gått starkt framåt. Algoritmerna har blivit allt kraftfullare. Potentialen för användningen av AI är enorm och hur algoritmerna används förändras radikalt.

– Det räcker med att man kollar på sociala medier. På Instagram, som har varit väldigt bra på att designa innehåll, har inte anpassat algoritmerna för vad vi faktiskt gillar. Istället får vi förslag på nytt innehåll baserat på vilka vi följer. Och det kan ju vara en gammal gymnasiekompis som vi inte delar intressen med i övrigt. På TikTok försöker algoritmerna istället lära sig vad du faktiskt vill se, oavsett vilka du följer, säger Fredrik Silfver, CTO på Above Agency.

AI har lärt sig att svara

Det amerikanska bolaget OpenAI har tagit det hela både ett, och tre steg längre. De har skapat GPT-3, språkmodell som med djupinlärning har tränats att producera människoliknande text. I den första generationen lärde sig programmet text från hela Wikipedia. I generation tre kom datan från hela Wikipedia, alla tillgängliga gratisböcker och allt nedladdningsbart material på internet. Från all data lär sig programmet den mest logiska ordföljden och kan därigenom producera text.

– En journalist som har fått testa programmet och lekt runt i det har kunnat ha ”konversationer” med avlidna, kända personer och har fått välartikulerade svar. Det är både läskigt och underhållande, säger Fredrik Silfver.

Programmet kan också skapa avancerade artificiella bilder baserat på foton från internet. Med den de nya algoritmerna krävs det inte längre tusen bilder för att AI:n ska lära sig vad till exempel en katt är, utan det räcker med ett fåtal bilder.

Algoritmerna lär sig människornas fördomar

Själva inlärningen är dock inte den enda utmaningen med den nya tekniken. För många finns en målbild att AI ska kunna minska diskrimineringen genom att se förbi faktorer som kön och hudfärg. Men, eftersom den data som tränar algoritmerna kommer från människor lär sig AI:n också våra fördomar.

– Ska vi kunna uppnå en AI som är neutral, och som inte har med sig våra fel och brister måste man också tvätta den data som matas till algoritmerna. Jag tror att vi fortfarande behöver klura ännu lite mer på det. Vi kommer säkerligen också att se en rad av nya yrkesroller växa fram kring AI-utvecklingen, redan i dag är det många som arbetar med att träna algoritmerna att inte bete sig diskriminerande, säger Fredrik Silfver.

Läs mer: Så kan design användas för att tackla etiska utmaningar i AI.

Krävs etisk insamling av data

Det finns en till utmaning med data – hur ska den samlas in?

– Våra kunder frågor oss om hjälp med hur de strategiskt designar mjukvara så att den blir användarvänlig och samtidigt samlar in data utan att vara integritetskränkande. Vi hjälper då till med rådgivning kring det etiska, och kring vilken data som de faktiskt behöver, säger Fredrik och avslutar:

– Det kommer att krävas många diskussioner kring hur datainsamlingen sker etiskt, men arbetet med att samla in data måste börja nu. Det gäller inte minst stora företag. Annars kommer man att sita i knäet på Google som redan har börjat.