TECH

Professor efter Open AI-kaoset: Vi bör vara oroliga

Sam Altman, till vänster, på scen tillsammans med Microsofts vd Satya Nadella. Arkivbild.
Sam Altman, till vänster, på scen tillsammans med Microsofts vd Satya Nadella. Arkivbild.

Open AI:s styrelse skulle fungera som en säkerhetsbrytare. Men när styrelsen förra veckan utlöste den och sparkade vd:n Sam Altman ledde det i förlängningen till att delar av styrelsen i stället fick gå.
– Den här idén om att företag kan reglera sig själva verkar långt borta nu, säger AI-professorn Toby Walsh.

Publicerad Uppdaterad

Open AI har ett upplägg som skiljer sig från de flesta andra amerikanska företag. Företaget bildades som en icke-vinstdrivande organisation. Men för att ändå kunna ta in de stora summor pengar som behövs för att utveckla AI skapade man en vinstdrivande enhet. Styrelsen skulle se till att vinst- eller utvecklingsjakten inte skedde på bekostnad av säkerheten.

– Den har en märklig dubbel struktur. Den har en ickevinstdrivande del och en vinstjagande del. Det verkar som att den strukturen helt misslyckades och nu antagligen kommer att bli till stort del bli vinstbaserad, säger Toby Walsh.

Han är professor i AI och chefsforskare vid AI-institutet vid australiska universitetet UNSW. Han ser det som att Open AI:s resa mot ett mer traditionellt, vinstdrivande företag inleddes när Microsoft köpte in sig i bolaget. Först med 1 miljard dollar 2019, sedan ytterligare 10 miljarder i januari i år.

– Det var en tickande bomb sedan Microsoft gick in med de tio miljarderna. Idén att inte vara vinstdrivande har gått upp i rök.

Toby Walsh beskriver Microsoft som den stora vinnaren.

– De har blivit mycket mer centrala för Open AI framgent, och att de inte redan har en plats i styrelsen är förvånande. Men jag skulle inte bli överraskad om den nya styrelsen är temporär, och när dammet lägger sig så kommer vi ha någon slags Microsoftnärvaro i Open AI.

För farlig AI?

Enligt uppgifter till Reuters är en utlösande faktor till att Open AI:s vd Sam Altman fick sparken att flera anställda AI-forskare i ett brev till styrelsen varnade för en ny upptäckt som kan utgöra ett hot mot mänskligheten.

– Jag misstänker inte att Open AI i hemlighet utvecklat en hemlig AGI, utan att de helt enkelt litade på Sam. I uttalandet när de sparkade honom skrev de att han inte varit uppriktig mot dem, vilket betyder att han ljugit, säger Walsh och fortsätter:

– Jag misstänker att det rör sig om små, obetydliga saker. Men problemet är att om han ljuger om det här nu, kommer han att ljuga igen när styrelsen behöver raka svar?

AGI – artificiell generell intelligens – är ett svårdefinierat uttryck som ungefär betyder en så pass avancerad AI att den är "smartare" än en människa. Det har spekulerats i att styrelsen ansåg att Open AI gick för fort framåt med sin teknik.

Toby Walsh säger att vi bör vara oroliga för AI-utvecklingen.

– Vi bör vara både upprymda och nervösa för riktningen och farten som AI utvecklas i. Jag tror att det kommer att vara lika omvälvande som internet, kanske lika mycket som elektriciteten.

Han poängterar att Open AI närmar sig en miljard dollar i årlig omsättning, i princip ett år efter att Chat GPT lanserades.

– Det är den snabbaste tillväxthistorien i Silicon Valley.

Krav på regleringar

Samtidigt konstaterar Walsh att kaoset kring Sam Altman den senaste veckan skadat förtroendet.

– Om jag vore en företag som använde mig av Open AI, så skulle jag fundera på: Kommer det ens att finnas kvar nästa helg?

Det har också väckt frågor om det är rätt att lämna över ansvaret för AI till företag. Flera tunga namn, däribland AI-profilen och professor emeritus Gary Marcus, har undertecknat ett öppet brev till EU där man varnar för att utarma en kommande AI-lag, vilket Marcus befarar får "förödande konsekvenser för världen".

– Det här belyser att vi antagligen behöver regeringar som går in och sätter in lämpliga säkerhetsregleringar. Idén att företag kan reglera sig själv verkar avlägset, och ännu mer avlägset nu efter den här sagan/komedin som utspelat sig inom Open AI, säger Toby Walsh.

BAKGRUND

Turerna kring Open AI

I fredags reagerade Techvärlden med chock när Open AI, som ligger bakom textroboten Chat GPT, utan förvarning sparkade vd:n Sam Altman av vaga anledningar. I kölvattnet sade styrelseordföranden Greg Brockman upp sig.

Open AI startades som en slags ideell organisation för att utveckla AI som ska gynna mänskligheten. Sam Altman var med och startade Open AI 2015. Sedan dess har strukturen delvis gjorts om för att bolaget ska kunna ta in externa investerare.

Stora investerare i Open AI, som Microsoft, verkade för att få honom återinsatt, och 700 av de anställda undertecknade ett brev som krävde att han återinsattes. Microsoft meddelade att man anställt Brockman och Altman för att driva ett internt AI-projekt.

På onsdagen meddelade Open AI via X att Altman återinsätts, och att Open AI får en ny styrelse.