”Alltför ofta tänker jag att det är ute med oss”

Det är en av de vackraste bilderna. Den togs för sex år sedan av rymdsonden Cassini. I förgrunden återges Saturnus ringar och i bakgrunden ser man en liten blåskimrande prick. Det är vår planet, fotograferad från 1,44 miljarder kilometers avstånd. Nasa kallar fotot ”Dagen då jorden log”.

Som av en händelse dök bilden upp i mitt flöde ungefär samtidigt som en ensam svensk tonåring lyckats samla en hel värld till protester mot övergreppen på den där blåa pricken. Och jag hörde historikern Yuval Noah Harari i en podcast säga att han tror att människor ändå har förmågan att samlas kring en global berättelse som går ut på rädda jorden. Det var ju fint.

Men andra dagar, alldeles för många dagar på ett år, kan jag känna mig paralyserad av uppgivenhet. Hur ska en känslostyrd befolkning som är så ideologiskt polariserad kunna enas kring att ta itu med klimatförändringarna?

Så lösningen på klimatkrisen, på alla bekymmer rentav, är förstås inte människor utan artificiell intelligens. Heter det i alla fall. Ett av problemen med den föreställningen är att ai mer eller mindre är synonymt med Silicon Valleys algoritmer.

Lägg till en handfull kinesiska bolag och du kan räkna de som för tillfället har total kontroll över ai-marknaden på handens tio fingrar. Eller nio för att vara exakt. I sin nya bok The Big Nine radar författaren Amy Webb upp dem: Google, Microsoft, Amazon, Facebook, IBM, Apple, Baidu, Alibaba och Tencent.

Amy Webb tar i boken upp välbekant problematik. Som det snäva maktförhållandet där en överväldigande majoritet av en viss typ av män jobbar med en teknik som kommer att påverka oss alla, på alla möjliga vis. Men Webbs bok visar mer än något annat hur de sex amerikanska och de tre kinesiska företagen är i händerna på aktörer som inte är direkt är kända för sin filantropiska ådra. G-MAFIA, som Webb kallar de amerikanska bolagen, är i Wall Streets tjänst, och BAT är den kinesiska regimens gunstlingar.

Vad det här kan leda till beskriver Webb i tre tänkbara scenarier, där det mest pessimistiska slutar med att – spoiler alert – Kina blir först med en superintelligens som får i uppdrag att mörda alla utanför landets gränser. Att jag inte tror på det scenariot skänker mig ingen glädje: Det är bara det att jag tycker det vore troligare om superintelligensen skriver om sin egen källkod. Varpå också den kinesiska befolkningen hamnar på dödslistan.

Men det behöver förstås inte röra sig om initiativ på statlig nivå. I dag kan en självmordsbenägen pilot ta med sig tusentals människor i döden genom att använda ett flygplan som redskap. I  morgon kan en enskild individ för struntsummor skicka iväg en svärm av pyttesmå drönare utrustade med biologiska vapen som orsakar mer skada än en atombomb.

Om du vill ligga sömnlös över detta rekommenderar jag det dubbelavsnitt av podcasten After On där programledaren Rob Reid samtalar med entreprenören Naval Ravikant om existentiella hot. Möjligheterna till asymmetrisk krigföring ökar dramatiskt i takt med att teknikutvecklingen skenar.

Vad var det Greta sa? Att vi inte skulle känna hopp, utan rädsla? Inför artificiell intelligens, bioteknik och nanoteknik har den stora majoriteten inga känslor alls. Tanken på globala protester mot superintelligens skulle för de allra flesta te sig helt absurd.

Ändå kan något eller flera av scenarierna ovan bli verklighet om bara några årtionden. Det är inte troligt att det sker så snabbt, men det är inte heller otroligt. Och det är den där sista möjligheten som borde göra oss panikslagna här och nu.