DEBATT
Replik: ”Öppen källkod för ai-modeller är en samhällsrisk”
Olle Häggström, professor vid Chalmers.
Institutet för Framtidsstudier
REPLIK. Om de mest kraftfulla ai-modellerna, som GTP-4, hade släppts med öppen källkod skulle de innebära oacceptabla samhällsrisker, skriver Olle Häggström.
I Ny Teknik 19 december skriver Johan Magnusson och
Claire Ingram Bogusz om de stora fördelarna med öppen källkod på ai-området. Öppen
källkod driver utvecklingen framåt, och när det gäller små och specialiserade
ai-modeller för exempelvis medicinsk diagnosticering är konceptet enligt min
mening till stor nytta.
Ändå är det fel, menar jag, att på Magnussons och Ingram
Bogusz vis ensidigt och onyanserat hylla den öppna källkodens tillämpning på
ai-området. Om öppen källkod tillämpades på de största och mest kraftfulla
ai-modellerna – som exempelvis Open AI:s GPT-4, Anthropics Claude 2, och Google
Deepminds Gemini – och på de ännu starkare ai som kan väntas släppas under 2024,
skulle det innebära allvarliga och enligt min mening oacceptabla samhällsrisker.
