Krönikor
Tänk dig en superintelligens
KRÖNIKA. Sommarens bok i hängmattan har varit psykologen och ekonomipristagaren Daniel Kahnemans Thinking, Fast and Slow (Tänka, snabbt och långsamt). En tänkvärd redogörelse för hjärnans två sätt att arbeta – det snabbare, intuitiva och känslomässiga ”System 1”, som Kahneman kallar det, som oupphörligt tolkar intryck och gör associationer, samt det långsammare, viljestyrda och mer rationella ”System 2” som löser problem, gör att vi kan fokusera och kontrollera oss, men som också kräver en ansträngning.
Bokens slutsats är att vi tenderar att lita för mycket på mänskligt omdöme, som ofta grundar sig på intuitiva slutsatser från System 1 – slutsatser som System 2 lättjefullt accepterar.
För mig väckte boken ett par andra tankar. En var att System 1:s ständiga sökande efter mönster och igenkänning påminner om en idé om den grundläggande algoritmen i hjärnans sätt att arbeta. Författaren och entreprenören Ray Kurzweil har föreslagit att just mönsterigenkänning är det som hjärnan i praktiken ägnar sig åt, på nivåer från prickar och streck ända till abstrakta fenomen som ironi.
Kurzweil, som kallar teorin för Pattern Recognition Theory of Mind, är nu utvecklingschef på Google där han arbetar med artificiell intelligens.
En annan tanke var att de två systemen kunde ligga till grund för en föreställning om vad superintelligens är. Åsikterna går isär om huruvida artificiell intelligens, AI, någonsin kan mäta sig med människans. Matematikern och science fiction-författaren Vernor Vinges svar på frågan var att det kommer att ske under ett kort ögonblick, varefter maskiner snabbt blir betydligt intelligentare än människor – superintelligenta.
Det är inte svårt att föreställa sig ett datoriserat System 1 som ständigt söker i data efter mönster och undersöker kopplingar mellan information. Redan i dag bygger AI på liknande principer. Människans System 1 är kraftfullt men ändå i praktiken begränsat. Associationerna i ett datorsystem kan på sikt sträcka sig över betydligt mer data att bygga sin ”intuition” på. På motsvarande sätt kan människans System 2 aktivt hantera bara ett fåtal idéer från System 1 och analysera dem utifrån ett par, tre variabler. Ett intelligent datorsystem kommer däremot att hantera stora mängder uppgifter parallellt och analysera fenomen utifrån tusentals variabler.
Ur ett mänskligt perspektiv kommer en sådan superintelligens att te sig oerhört kraftfull. Den avancerade analysen som experter exempelvis gjort av den påstådda attacken med kemiska vapen i Damaskus nyligen, där de utifrån foton, videor och andra verktyg mödosamt kunnat sluta sig till varifrån vapnen avfyrats, skulle kanske av en sådan superintelligens göras rutinmässigt, ungefär som en mänsklig intuitiv bedömning.
Vi kan bara hoppas att vi kommer överens.
