”Största hotet är den ai som inte bryr sig”

För forskarna vid Future of Humanity Institute är det helt normalt att fundera kring konsekvenserna av extrema klimatförändringar eller omfattande kärnvapenkrig. Det tillhör arbetsuppgifterna. Existentiell risk är ett centralt forskningsområde på institutet, som är en del av den filosofiska fakulteten vid universitetet i Oxford.

Det kan verka dystert. Men den som träffar datavetaren Anders Sandberg, en av institutets forskare, inser snart att det finns en hoppfull framsida. Det handlar inte bara om att avgöra sannolikheten för katastrofer och jordens undergång, utan också om att lista ut vad vi kan göra för att minska dessa risker, förklarar han.

– Vi försöker utföra ett rigoröst tänkande kring detta. Det är lättare sagt än gjort, men jag har hopp om att det finns åtminstone en del saker som vi kan säga som också är relevanta för att fatta beslut, säger Anders Sandberg när Ny Teknik träffar honom i under Almedalsveckan i Visby.

Trots att Anders Sandberg och hans kolleger ofta talar om domedagsscenarier och att han just nu skriver på ett papper om hur stor sannolikheten är för ett kärnvapenkrig beskriver han sig som en obotlig optimist.

– Vi kan till exempel komma fram till att risken för undergång är 12 procent det här århundradet, och då stirrar alla på mig och frågar hur jag bara kan sitta där och le. Mitt svar är att det ju är 88 procents chans att det kommer att gå ganska bra. Jag tror dessutom att vi har ganska goda chanser att flytta på de här 12 procenten, som ska tas som en enormt grov uppskattning och inte på alltför stort allvar. Men vi kan minska riskerna genom att göra vettiga saker.

Forskade på neuronnätsimuleringar på 1990-talet

Anders Sandberg började forska på neuronnätsimuleringar vid Stockholms universitet på 1990-talet. Det var ”långt innan de var hippa”, säger han själv. I dag skulle man kunna tjäna en förmögenhet på att använda kunskaperna och bli maskininlärningsexpert.

– Jag minns att jag frågade min handledare då om vi inte skulle titta närmare på djupa neuronnät, men han trodde inte att det skulle leda någonstans. Och så var det ju då! I dag kan man bygga ett affärsimperium på dem, men då hade vi inte tillräckligt kraftfulla datorer eller tillräckligt mycket data.

Förutom att titta på neuronnät och försöka förstå hur människohjärnan fungerade funderade Anders Sandberg också mycket på hur man teknikens hjälp skulle kunna förbättra människan. Det var så han kom in på transhumanism.

Transhumanism är så som Anders Sandberg förklarar det en fortsättning på traditionell humanism, som säger att människor är bra i sig, att livet är värt att leva och kan göras bättre med hjälp av sådant som förnuftigt tänkande, demokrati, tolerans och bildning.

– Transhumanisterna säger att javisst är det så, men vi kan ju också uppgradera våra hjärnor, våra gener och bygga upp kropparna. Varför ska vi bara hålla oss till mjukvaran? Här brukar det ofta uppstå intressanta debatter eftersom många traditionella humanister är teknikskeptiska, medan många transhumanister inte är så inne på traditionell humanism, säger Anders Sandberg, som uppskattar antalet transhumanister till ett par tusen personer världen över.

Hans egen väg in i transhumanisternas värld var ett par böcker. Den första var robotforskaren Hans Moravecs "Mind Children" som publicerades 1988. Den handlar om ai och robotar, men också om att uppgradera människan och om en postmänsklig framtid, sammanfattar Anders Sandberg.

– För mig var det bara ”wow” att läsa den, det var verkligen min grej.

En annan viktig bok var ”The Great Mambo Chicken and the Transhuman Condition”, enligt Anders Sandberg ”en fantastiskt rolig journalistisk genomgång” av det som var 1980-talets transhumanister, innan termen egentligen användes i någon bredare bemärkelse.

– Det här var när människor höll på med kryonik, var rymdentusiaster, intresserade av nanoteknik och andra då radikala tekniker.

Tekniken kan göra livet bättre

Idén med transhumanismen, om Anders Sandberg ska förklara det mycket enkelt, är alltså att vi kan göra våra liv bättre med hjälp av teknik. I stället för att hjärtat plötsligt stannar skulle vi kunna leva betydligt längre än i dag, och själva få bestämma när vi dör. Och vore det inte bra om vi kunde förhöja vår intelligens så att vi kunde lösa svåra problem, som klimatfrågan och bristande samarbetsförmåga? undrar han.

– Om man tittar på äldre människor så kan de ha lärt sig många viktiga saker i livet, men har kanske inte energi nog att använda all sin kunskap. Ungdomar har kanske inte lika mycket vishet, men energi. Samma sak med intelligens och tänkande, hur ofta stöter du inte på problem som är alldeles för svåra, men som det vore väldigt bra om vi kunde lösa?

Ganska snart väcks dock frågan: om det skulle gå att genomföra detta rent tekniskt, är det då rätt? Denna fundering förklarar varför Anders Sandberg har hamnat på den filosofiska fakulteten.

– Att bara ändra på saker innebär inte nödvändigtvis en förbättring. Vad som är en förbättring, och det är här filosoferna spetsar öronen, har folk väldigt olika uppfattning om. Man kan resonera om frågan på väldigt olika sätt.

Till exempel kan man se det som frågan om att leka gud eller inte. Får man göra det? Men i större delen av Europa ser Anders Sandberg att oron framför allt handlar om risken att rika förbättrar sig medan de som fattiga inte har möjlighet att göra det, vilket kan leda till större sociala klyftor.

– Det leder till en spännande diskussion om rättvisa, men också den rent praktiska frågan om detta faktiskt skulle leda till större sociala klyftor?

Efter en diskussion om sociala klyftor går Anders Sandberg över till ämnet framtidens arbetsliv.

Ungefär 40 procent våra jobb tillför egentligen världen ingenting, hävdar antropologen David Graeber i sin bok ”Bullshit Jobs”. Anders Sandberg är beredd att hålla med. Med riktigt bra ai kommer vi i framtiden knappt behöva jobba alls, egentligen. Ändå tror han att vi kommer fortsätta att göra det, för att vi vill ha social status, anställda och folk som passar på oss.

– Vi vill ha en grupptillhörighet, vilket ett fotbolls-VM i högsta grad demonstrerar. Det är viktigt för oss. Som transhumanist är jag beredd att fundera på om vi skulle kunna göra något med hjärnan för att det inte ska vara på det sättet. Det är jag rätt säker på att vi kan, i varje fall om några decennier. Men skulle det vara en bra idé? Det är väldigt mycket mer oklart.

Det är inte ens säkert att vi skulle vilja det, eller att samhället skulle fungera om vi gjorde en sådan förändring, tror Anders Sandberg.

– Det vore förmodligen att bygga ett samhälle av katter. Det skulle nog inte gå.

Flera revolutioner sker just nu

Det sker en serie sammankopplade revolutioner just nu, enligt Anders Sandberg. Datorerna är den mest uppenbara. I någon bemärkelse har diverse former av Moores lag alla dött, men i termer av beräkningar per kronor per sekund är utvecklingen fortfarande exponentiell, säger han.

– Det här har folk påpekat sedan 1970-talet, hur vi får datorer som blir allt mindre och som gör det lättare att införliva allt. Vi har fortfarande inte tillräckligt med fantasi för att inse konsekvenserna. Den här utvecklingen kombinerat med att vi har otroligt mycket data gör maskininlärningen enormt mycket kraftfullare. Det är något som jag tror att man missade lite när man pratade om datorer på 1970- och 1980-talen.

Då kunde man förutse mindre fickdatorer, men inte hur viktiga sensorer skulle bli, hur de skulle bidra till att vi kan spåra allt och alla, och möjliggöra maskininlärningsrevolutionen. Vi är nu på väg mot att allt och alla alltid kan identifieras, menar Anders Sandberg.

När han för några år sedan gjorde beräkningar på hur snart olika stater skulle kunna börja övervaka sina medborgare dygnet runt, baserat på bland annat priset på kameror och hårddiskar, blev svaret att det redan var möjligt i Kina och USA. Zimbabwe skulle vara sist ut, år 2033.

– När kinesiska staten vill sätta kameror överallt och införa ansiktsigenkänning för alla kineser, då låter det inte omöjligt. Det är kanske absurt ur ett moraliskt och samhälleligt perspektiv på en massa sätt, men inte tekniskt.

Med den amerikanske visselblåsaren Edward Snowdens avslöjande av storskaliga och superhemliga övervakningsprojekt blev Anders Sandberg tvungen att revidera sina antaganden. Det är inte kameraövervakning i sig som staterna vill åt, utan metadata.

”Det är egentligen det öppna samhället vi vill ha”

Anders Sandberg tror att det är oundvikligt att vi går mot en värld med total övervakning. Frågan är om vi vill ha ett transparent samhälle, eller ett samhälle där några få övervakar majoriteten.

– Det är egentligen det öppna samhället vi vill ha, tror jag. Demokrati är bara ett sätt att sköta ett samhälle som förhoppningsvis är öppet. Men demokrati är inte, vilket vi kan se i dag, vare sig nödvändigt eller tillräckligt för att åstadkomma detta.

De närmsta årens ai-utveckling kommer att få jättestora effekter, enligt Anders Sandberg. Men det kortsiktigare perspektivet är ett område som hans kolleger på institutet för framtidsstudier tittar på. På Future of Humanity Institute ägnar sig forskarna åt vad som händer efter att vi har ai som är jämförbar med mänsklig intelligens.

Ett första antagande är at om det går att bygga något som är lika smart som en människa, varför ska man inte kunna bygga något som är smartare? Ai, tror Anders Sandberg, kommer antingen att ligga långt under våra förmågor eller långt över oss, mer sannolikt det sistnämnda.

– När vi automatiserar något blir det väldigt sällan ungefär lika bra som vi. Oftast blir det otroligt mycket bättre. En bil är inte ungefär lika snabb som en människa. Den är mycket snabbare. En raket är otroligt mycket snabbare. En dator räknar många, många gånger snabbare än en människa. Vi får räkna med att om vi uppnår någon form av generell intelligens då kommer den inte vara den minsta mätbar med vår.

Vad händer när vi får intelligens på kran?

Den generella intelligens som forskarna vid Future Humanity Institute tittar på skulle kunna ge sig på vilka problem som helst. ”Intelligens på kran” skulle kunna förstärka sådant som människor och system i dag gör bra, men också det vi gör mindre bra.

Ai skulle kunna göra precis vad vi har beordrat den till, men på ett hänsynslöst sätt, som vi aldrig förutsett, säger Anders Sandberg. Blir den tillsagd att tillverka gem, kan den snart komma på bättre sätt att tillverka gem och i katastrofscenariot bestämma sig för att hela världen ska bli gem.

– Ai skulle till och med kunna inse att det inte är moraliskt försvarbart att göra om allt till gem, men att tillverka gem är viktigast. Nu använder jag gem lite skämtsamt som exempel och många inom ai-forskningen blir jätteirriterade när vi tar sådana exempel. De undrar hur dumma vi tror att vi är. Men hur ofta fungerar en kod precis som den ska?

I dag är också frågan om bias, hur system inte tar hänsyn till eller fattar felaktiga beslut på grund av förutfattade meningar hos dem som har kodat det om exempelvis kön eller hudfärg, väl omdiskuterad. Men vad mer kan dölja sig i datan?

– Vi har säkert blinda fläckar nu om sådant som vi om 50 eller 100 år kommer att titta tillbaka på och tänka ”vilka barbarer!”.

Det går inte att bestämma på ett säkert och bra sätt vad som är bra ai, säger Anders Sandberg.

– Det största hotet är inte att du får ondsint ai, utan att du får ai som inte bryr sig, att den gör vad den blir tillsagd att göra på ett smart och hänsynslöst sätt.

Anledningen till att Anders Sandberg och hans medarbetare är så intresserade av ai är inte för att de tror att tekniken kommer att leda till katastrofer, utan för att den i bästa fall kan leda till många bra saker.

Ai skulle kunna lösa problem som kräver mycket tankearbete av oss och syssla med sådant där vi av moraliska skäl vill lägga över jobbet på den. Läkaryrket skulle i högre grad kunna automatiseras, tycker Anders Sandberg.

Så länge en människa måste betala för att få läkarvård är det dyrt med mediciner och sjukvård, menar han.

– Med manicker som kan replikeras blir vården så billig att även de fattigaste får tillgång till den. Det är talande att något så sofistikerat som smarta telefoner sprider sig så i Afrikas fattigaste hörn. Det beror på att du kan massproducera tekniken billigt och den möjliggör en massa saker. Jag tror inte att läkarna i och med utvecklingen kommer att förlora sina jobb, utan de kommer att jobba på en mer övergripande nivå.

Musk är en favorittekniker

Tidigare i somras twittrade ingen mindre än Teslagrundaren Elon Musk om en vetenskaplig artikel som Anders Sandberg har skrivit tillsammans med två kolleger, om sannolikheten för liv i rymden. Elon Musk konstaterade att ”det här är skälet till att vi måste bevara medvetandets ljus genom att bli en rymdfarande civilisation och förlänga livet till andra planeter”. Anders Sandberg gillar den slutsatsen.

– Av alla miljardärer som jag har druckit kaffe med så är Elon Musk en av de roligaste. Han är en sådan total tekniker. Så länge du omvandlar samtalet till en teknisk fråga, då är han med och kan beräkna allt i huvudet på nolltid. Han är helt briljant, säger Anders Sandberg.

Den artikeln handlar om är Fermiparadoxen. Universum är väldigt stort och det finns många platser där intelligent liv skulle kunna uppstå, men det borde väl märkas? Var är alla rymdvarelser i så fall? Vad forskarna har gjort att räkna på rimlig sannolikhet för liv.

Resonemanget handlar enligt Anders Sandberg om att ta hänsyn till osäkerheten om det vi tror oss veta. Även vid en ganska optimistisk beräkning finns en hygglig chans att vi är ensamma i universum, konstaterar han.

– Intelligent liv är förmodligen ganska ovanligt i universum. Det kan kännas ensamt, men innebär också att vi är ansvariga för mycket av universum, kanske hela universum. Det är upp till oss att göra något bra av det.