TECH
Ai-pionjären lämnar Google - vill varna för tekniken han banade väg för
Geoffrey Hinton, en av ai-forskningens stora pionjärer, har sagt upp sig från Google – för att ”fritt” kunna varna för tekniken han själv banat väg för. ”Kanske är det som sker i de här systemen mycket bättre än det som sker i den mänskliga hjärnan”, säger han till New York Times.
Publicerad
Senast uppdaterad
Annons
Det är en helomvändning. Dagens generativa ai-modeller – som Chat GPT – är en vidareutveckling av de neuronnät som för omkring tio år sedan fick sitt genombrott tack vare just Geoffrey Hinton, något Ny Teknik skrivit mer om här.
– Jag tröstar mig med att om inte jag gjort det så hade det varit någon annan, säger Hinton till New York Times.
Under många år han jobbat med utveckling av artificiell intelligens på Google, som är aktuella med chattboten Bard. Att hans före detta arbetsgivare nu fått konkurrens från Open AI, Microsoft och andra aktörer gör honom bekymrad för en ai-kapplöpning.
Den 22 mars krävde Future of Life Institute, en ideell organisation ledd av svenska fysikern Max Tegmark, en sex månader lång ”paus” av ”gigantiska ai-experiment”. Det öppna brevet skrevs under av framstående ai-forskare som Stuart Russell och Yoshua Bengio. Till dags dato har fler än 1500 professorer satt sin kråka på det. Men inte Geoffrey Hinton. Enligt New York Times var skälet att Hinton ville torgföra sin kritik först efter att han lämnat Google.
Hans oro bottnar emellertid i samma sorts farhågor som de Future of Life Institute nämner i sitt brev: risken för storskalig spridning av desinformation, risken för massarbetslöshet och, inte minst, risken för att vi skapar ett system så intelligent att vi förlorar kontrollen över det.
De dystopiska tongångarna är inte nya. Max Tegmark och den svenska filosofen Nick Boström har skrivit storsäljande böcker om potentiella domedagsscenarier. Men den exponentiella utvecklingen av tekniken tycks ha överraskat Geoffrey Hinton.
Annons
Hintons lärlingar är inte lika bekymrade
– Tanken på att de här grejerna faktiskt kan bli smartare än människor – det fanns några som trodde på det. Men de flesta trodde att det var 30 till 50 år bort, eller ännu längre. Uppenbarligen tror jag inte längre det.
Noterbart är att flera av Geoffrey Hintons adepter inte delar hans starka rädsla för artificiell intelligens. Bland dem Yann LeCun, som leder ai-forskningsdivisionen på Meta och som gjorde sin postdoktortjänst under ledning av Geoffrey Hinton. Och Hintons före detta elev Ilya Sutskever, som var delaktig i den ai-modell som ledde till neuronnätens genombrott, är numera forskningschef på Open AI.
Ariel Ekgren på AI Sweden, en av de forskare som leder arbetet med ai-modellen GPT-SW3, tycker att Hinton ägnar sig åt skrämselpropaganda.
As a researcher in the field I'm amazed at the developments and fully realise that it's bringing SOME change. But I can't frame this scaremongering in any other way than a weird sci-fi meme that has gotten out of hand. I think propagating this meme is irresponsible and dangerous.
— Ariel Ekgren (@ArYoMo) 2023 miessemánnu 1
”Som en av forskarna på det här området är jag förbluffad över utvecklingen och inser helt och fullt att den kommer att leda till VISS förändring. Men den här skrämselpropagandan känns som ett bisarrt science fiction-meme som spårat ut. Att sprida det känns oansvarigt och farligt”, skriver Ekgren på Twitter.
