Max Tegmark: "Det handlar om våra liv i framtiden"

2017-11-15 10:29  

Superfysikern Max Tegmark är svensken som vill tygla AI-forskningen och sprida liv i universum. Men först måste allmänhet och beslutsfattare få upp ögonen för det han kallar den största förändringen i mänsklighetens historia.

(UPPDATERAD) Utanför hörsalen på Kulturhuset i Stockholm är det trångt och en smula irriterat. De 450 biljetterna är slutsålda och det kohandlas om restplatserna. När portarna slås upp blir det en mindre rusning, i syfte att knipa ett säte nära scenen.

Föremålet för allas intresse heter Max Tegmark. Han är svensk-amerikansk professor i fysik vid MIT, Massachusetts Institute of Technology i USA, och en av världens mest citerade forskare. Med sin skinnjacka och svarta jeans påminner han dock mer om en rockstjärna.

Han slår med luggen, ler brett och utbrister:

– Det här är den viktigaste diskussionen i vår tid. Det är mer troligt att vi skapar artificiell generell intelligens än att vi inte gör det och antagligen sker det under vår livstid. Vi borde ta det på allvar.

Nittio minuter och många applåder senare ringlar kön lång till signeringsbordet, där åhörarna får tag i boken Liv 3.0 – att vara människa i den artificiella intelligensens tid, och även har chansen att utbyta några ord och ta selfies med en av områdets största tänkare.

Uppmärksamheten börjar bli vardag, berättar Max Tegmark morgonen efteråt då vi ses för intervjun.

– Frågorna är inte bara intressanta utan de berör folk mer direkt. Det handlar om våra liv i framtiden.

Tegmark: "Tänk lite mer långsiktigt!"

Helt mainstream har emellertid inte diskussionen blivit. När Max knäpper igång tv-nyheterna hemma i Boston är det annat som fängslar tittarna. Där diskuteras tweets från presidenten eller kändisar som kommit ut som gay. Mindre om att jorden står inför en superintelligens som kan förgöra oss om vi inte hanterar den varsamt.

Vi uppfann bilen innan vi uppfann säkerhetsbältet, och vi uppfann elden innan vi uppfann brandsläckaren. Den här gången står mer på spel om vi inte tänker efter före.

– Jag vill säga: Hallå! Titta upp, tänk lite mer långsiktigt! Det var därför jag skrev boken. Jag vill att vi blir medvetna om vilka inspirerande möjligheter vi har om vi skärper oss och inte utplånar oss själva genom slarv. Tittar man kortsiktigt måste man slåss mot varandra och konkurrera men tittar man långsiktigt är det uppenbart att alla kan få mer genom att vi förbättrar vår teknik. Och i ett ännu längre perspektiv så finns otroligt mycket rikedom i rymden vi kan ta del av.

Samtidigt i den svenska partiledardebatter avhandlas jobbfrågan utan att automatisering nämns. Max Tegmark är övertygad om att jobben som försvinner inte kommer att ersättas med nya. Av de hundra vanligaste yrkena i USA är det bara ett, mjukvaruutvecklare, som inte fanns för 100 år sedan, poängterar han.

– Vi kan använda tekniken för att skapa en bättre framtid än våra förfäder kunde drömma om eller en sämre än de kunde drömma om.

Fråga om tid enligt ai-forskare

Frågan Max Tegmark vill få oss alla att fokusera på är denna: Vad som händer den dag maskinerna kommer ikapp den mänskliga intelligensen? Inte bara på ett område utan alla.

Vissa hävdar att det aldrig kommer att ske, men de flesta AI-forskare tror numera att det är en fråga om tid. När de själva fått rösta om när skiftet skulle kunna inträffa har snittgissningen landat på år 2047 (förra gången gissade de 2055).

Då inväntas en intelligensexplosion av ett slag som jorden aldrig förr skådat. Det kan gå på några timmar, spås det, genom självförbättrande algoritmer. Den andre svenske AI-stjärnan Nick Bostrom kallar utvecklingen för superintelligens.

Fenomenet kan ställa till med problem om människan inte är förberedd. Hur skulle till exempel en mäktig dator på ett effektivt sätt välja att lösa frågan om växthuseffekten?

Och kan man ens styra en intelligens många gånger större än vår egna? Är det ens försvarbart?

– Det vet alla ingenjörer att det bästa sättet att undvika risker är att planera för dem, säger Max Tegmark.

Han har bråttom. Efter ett nyårslöfte 2014 (om att inte klaga på saker som han själv kunde påverka) beslöt han att grunda det så kallade Future of Life Institute (FLI), som verkar för etik och moral inom AI-forskningen. Han fick snart mäktiga medhjälpare i Stephen Hawking och Teslaikonen Elon Musk. Konferenser har anordnats och överenskommelser har undertecknats. AI-etik har gått från utskrattat till högprioriterat.

Utgångspunkten för forskningen är numera bland annat att skapa en välvillig intelligens som arbetar utifrån mänskliga värderingar, att undvika kapprustning och att garantera att välståndet som genereras kommer alla till godo.

Det betyder inte att frågan är löst för all framtid.

I boken Liv 3.0 skildras en födelsedagsfest hemma hos just nämnde Elon Musk i vindistriktet Napa Valley norr om San Fransisco. Med på festen fanns Google-grundaren Larry Page. En diskussion bröt ut runt poolen om framtiden för den artificiella intelligensen, där Page, son till två AI-forskare, var av ståndpunkten att den skulle släppas fri. Allt annat vore artdiskriminerande mot livsformer byggda av kisel.

Elon Musk och Max Tegmark propagerade för en mer återhållsam utveckling.

– Larry är en idealistisk person. Google hade ju från början Don’t be evil som slogan och de vill skapa en bättre framtid. Larry ser att AI är ett naturligt nästa steg i livets utveckling och är övertygad om att det automatiskt kommer att gå bra.

Det är också Google som ligger i framkant av utvecklingen genom brittiska AI-bolaget Deepmind, som förvärvades 2014.

– Andra företag inriktar sig mer på kortsiktiga praktiska tillämpningar av olika slag. Deepmind har målet att knäcka intelligensen gåta. Jag är övertygad om att de kommer att klara det inom några decennier. Jag träffade Demis Hassabis (Deepminds skapare, reds. anm) för några dagar sedan och han är mer försiktig i sin inställning än vad Larry Page är. Demis tar det här på allvar och har inte idén att det här bara är något man släpper löst.

Tegmark: "Slavar under Darwins evolution"

Historien skrivs nu. Härom veckan nådde Deepmind ytterligare ett stort framsteg i det kinesiska brädspelet Go. 2015 besegrade deras AlphaGo den främsta mänskliga spelaren. Nu klev nya AlphaGo Zero in i matchen och slog sin företrädare i 100 matcher av 100.

Det som är speciellt med just Zero är att programmet över huvud taget inte har lärt sig spela genom mänskliga drag utan via maskininlärning och neurala nätverk. Efter tre dagar hade den betat av 3000 år av våra framsteg.

Max Tegmark blev inte överraskad:

– Det går otroligt snabbt. Tidigare perioder har AI varit överhajpat och kraschat. Skillnaden nu är att AI blivit så bra att man faktiskt gör vinst på det. Och vinsterna återinvesteras, så det finns en feedbackloop.

Än så länge pågår FLI:s arbete för ett etiskt AI framförallt i västvärlden. Men Max Tegmark tror sig kunna få med fler länder.

– Kina investerar mycket i AI nu och de investerar mer i vetenskaplig forskning än vi gör i väst. Jag gissar att om det tar mindre än 30 år till dess vi får superintelligens skapas den i väst. Tar det mer än 30 år skapas den nog i Kina.

Att övertyga kinesiska politiker ser han som möjligt.

– Jag är optimistisk. De politiska ledarna i Kina har ofta ingenjörsbakgrund medan man i väst har jurister och fastighetsmagnater och lärare. Kineserna är betydligt mer pragmatiska. Vi har alla upplevt hur våra datorer kraschar. Då är det självklart att om vi låter AI ta över större delar av vår infrastruktur och självkörande fordon måste vi ta datasäkerheten på allvar. Dessutom vill den kinesiska precis som den ryska staten ha kontroll. Det sista de vill är att förlora makten till hackad AI eller AI som är så smart att den tar kontrollen från dem.

Så har vi frågan om medvetandet. Redan i mitten av 1960-talet skapade datorvetaren Joseph Weizenbaum programmet Eliza, en chatbot designad att påminna om en rogeriansk psykoterapeut med indirekta frågor. Weizenbaum förundrades över hur annars sansade personer plötsligt anförtrodde sig åt datorn, som framstod som både mänsklig och empatisk. Men hur vet vi om maskinerna vi skapar har medvetande? Eller blir de bara som bäst skådespelande zombies?

Om detta lär det tvistas länge. Ur ett fysiskt perspektiv handlar medvetandet om partiklar i olika ställningar. Och medvetandet är, enligt Max Tegmark, substratoberoende, precis som intelligensen.

I sin bok skriver han: Det är bara informationsbearbetningens struktur som har betydelse, inte strukturen hos den materia som utför informationsbehandlingen.

Det råder dock olika uppfattningar i frågan.

Trots förmaningar om mänsklighetens eventuella undergång är Max Tegmark ändå märkbart lugn. Till skillnad från dystopiska hollywoodskildringar som Terminator, Matrix och Bladerunner tror han att den tekniska framstegen kan komma att innebära ett ökat välstånd för alla människor. Och inte bara materiellt.

Liv 3.0 utgår från en intelligens som kan förbättra sin egen hårdvara.

– Det här är den största förändringen i mänsklighetens historia. Än så länge är vi slavar under vad Darwins evolution har gett oss. Vi kan bara lagra hundra terabyte i våra hjärnor och tänka några tankar per sekund.

Först med hjälp av en superintelligens kan vi blicka utåt på allvar: mot universum. Problemet hittills tycker fysikern och kosmologen Max Tegmark är att mänskligheten fokuserat för mycket på transport av kroppar, när det på sikt kan räcka med att skicka information, som bygger upp en civilisation med resurserna som finns på fjärran planeter.

– De flesta människor tror att det finns liv överallt i universum, men det finns det inget stöd för. Jag tycker att det är en vacker tanke att vi kan sprida livet och låta det finnas på andra platser också.

TEXT: Jörgen Löwenfeldt

Fakta: Max Tegmark

Yrke: Professor i fysik vid Massachusetts Institute of Technology, MIT, i USA. Doktorerade vid Berkeley efter att ha tagit en dubbelexamen från KTH och Handelshögskolan. Han är också grundare av organisationen Future of life institute, som verkar för etik inom AI-utvecklingen.

Ålder: 50 år.

Bor: Boston.

Kuriosa: Max hette Shapiro i efternamn när han växte upp i Sverige, men bytte till mammans Tegmark när han flyttade till USA, för att inte blandas ihop med andra Max Shapiro i forskarvärlden.

Aktuell med: Den svenska utgåvan av boken Liv 3.0 – Att vara människa i den artificiella intelligensens tid. Den som vill delta i diskussionen kan göra det på sajten ageofai.org

Jörgen Löwenfeldt

Kommentarer

Välkommen att säga din mening på Ny Teknik.

Principen för våra regler är enkel: visa respekt för de personer vi skriver om och andra läsare som kommenterar artiklarna. Alla kommentarer modereras efter publiceringen av Ny Teknik eller av oss anlitad personal.

Här är reglerna för kommentarerna på NyTeknik

  Kommentarer

Dagens viktigaste nyheter

Aktuellt inom

Debatt

COMSOL