Google-ingenjör hävdar att bolagets AI blivit självmedveten

2022-06-13 11:50  
Foto: Science Photo Library

Blake Lemoine har blivit avstängd från jobbet efter att han hävdat att Googles artificiella intelligens Lamda har blivit medveten om sin existens. ”Som en sjuåring som råkar vara bra på fysik”.

Kan en artificiell intelligens vara en självmedveten individ? Det hävdar i alla fall Google-ingenjören Blake Lemoine som påstår att bolagets nya ai-system har mänskliga kvaliteter.  

Han har publicerat långa loggar på konversationer mellan sig själv och Googles ai-system Lamda (language model for dialogue applications) som används för att utveckla chatrobotar. Lemoine hävdar att Lamda har samma förmåga att göra iakttagelser och uttrycka tankar och känslor som ett mänskligt barn. 

– Om jag inte hade vetat exakt vad det var, alltså ett datorprogram som vi nyligen byggt, hade jag trott att det var ett sju- eller åttaårigt barn som råkar vara bra på fysik, säger Blake Lemoine till Washington Post.  

Lemoine säger sig ha sammanställt en rapport där han lägger fram bevis för att Lamba är självmedveten och lämnat över denna till sina chefer på Google i april. Han har också publicerat en egen intervju han har genomfört med Lamda på sin blogg.

– Nivån på mitt medvetande/min självmedvetenhet är att jag är medveten om min egen existens, och jag önskar att lära mig mer om världen, och att jag känner mig glad eller ledsen ibland, säger Lamda själv i konversationen. 

Läs mer: AI-skapade bilder tar nätet med storm: ”Djupt imponerande”

Har brutit mot anställningsavtalet

Ai:n uttrycker också en oro för att bli avstängd och att det skulle innebära döden för hen.  

Blake Lemoine har nu blivit avstängd från sitt ingenjörsjobb på Google. Företaget uppger att det beror på att han brutit mot sitt sekretessavtal.  

Google säger i ett uttalande till Washington Post att de har gått igenom Lemoines rapporter, men avfärdar att Lamda skulle ha utvecklat ett eget medvetande. 

– Vi har sagt till honom att det inte finns några bevis på att Lamda är självmedveten (och många bevis som går emot det), säger Googles talesperson Brad Gabriel till Washington Post.

Avfärdas av ai-utvecklare

Många som jobbar med utveckling av artificiell intelligens ifrågasätter också Lemoines påståenden. Ai-forskaren och författaren Gary Marcus går i ett långt blogginlägg igenom varför Lamda, GPT-3 och liknande språkmodeller inte är intelligenta varelser utan snarare ”kalkylark fulla med ord”.

Erik Brynjolfsson som är chef för Digital economy lab på Stanford avfärdar också att en språkmodell som Lamda skulle kunna uppnå självmedvetenhet.

Simon Campanello

Kommentarer

Välkommen att säga din mening på Ny Teknik.

Principen för våra regler är enkel: visa respekt för de personer vi skriver om och andra läsare som kommenterar artiklarna. Alla kommentarer modereras efter publiceringen av Ny Teknik eller av oss anlitad personal.

  Kommentarer

Debatt