Hawking: Ta artificiell intelligens på allvar

2014-05-05 13:54  

Det är lätt att avfärda intelligenta maskiner som science fiction, men det vore ett misstag, möjligen det värsta misstaget i historien. Det skriver fysikern Stephen Hawking tillsammans med tre andra framstående forskare i en debattartikel.

Stephen Hawking och hans medförfattare Stuart Russell, Max Tegmark, och Frank Wilczek, refererar till den bioaktuella science-fictionfilmen Transcendence med Johnny Depp i huvudrollen, och påpekar att artificiell intelligens, AI, inte bara hör hemma på bioduken.

Forskningen inom AI går snabbt framåt, driven av investeringar utan tidigare motstycke och byggd på en allt mer mogen teoretisk grund, skriver de i sin debattartikel i brittiska The Independent. Den utveckling vi ser just nu, med självkörande bilar och personliga digitala assistenter, kommer att blekna i förhållande till vad kommande decennier kommer att bära med sig, fortsätter de.

Forskarna konstaterar att de möjliga fördelarna med AI är enorma eftersom allt som civilisationen har att erbjuda är ett resultat av mänsklig intelligens. Att lyckas utveckla artificiell intelligens vore därför den viktigaste händelsen i människans historia, menar de.

Olyckligtvis kan det också bli den sista, om vi inte lär oss hantera riskerna, varnar Stephen Hawkins och hans medförfattare.

På lite sikt kan man vänta sig en explosiv utveckling av maskinintelligens, när en sådan intelligens har förmågan att utveckla och förbättra sig självt – en situation som matematikern Vernor Vinge kallade den teknologiska singulariteten.

"Man kan tänka sig att sådan teknik blir smartare än finansmarknaderna, uppfinner bättre än mänskliga forskare, har förmågan att manipulera mänskliga ledare, och utvecklar vapen som vi inte ens kan förstå. Medan den kortsiktiga effekten av AI beror på vem som kontrollerar den, är frågan på lång sikt om den överhuvudtaget kan kontrolleras", skriver forskarna i artikeln.

De konstaterar samtidigt att experter på området inför en sådan risk rimligen borde göra allt för att utvecklingen ska bli den bästa och säkraste, men att mycket lite forskning i själva verket ägnas åt problemen med AI, förutom vid ett fåtal institutioner som The Future of Human Institute vid Oxfords universitet, lett av den svenska professorn Nick Boström.

"Om en överlägsen utomjordisk civilisation skickar ett meddelande av typen, 'Vi kommer om ett par decennier', skulle vi då bara svara 'Ok, ring oss när ni kommer hit - vi lämnar ljuset tänt'? Förmodligen inte – men det är mer eller mindre vad som sker inom AI", skriver forskarna som en liknelse.

Och de avslutar med en uppmaning till alla att fundera över vad vi kan göra för att öka chanserna att uppnå fördelar och undvika risker med artificiell intelligens.

Mats Lewan

Kommentarer

Välkommen att säga din mening på Ny Teknik.

Principen för våra regler är enkel: visa respekt för de personer vi skriver om och andra läsare som kommenterar artiklarna. Alla kommentarer modereras efter publiceringen av Ny Teknik eller av oss anlitad personal.

Här är reglerna för kommentarerna på NyTeknik

  Kommentarer

Aktuellt inom

Debatt