TECH
Metas ai-system har svårt med etiska och moraliska gränser, enligt en färsk granskning.
Meta
Zuckerbergs order: ”Lösare tyglar” – gav chatbotar som pratar sex med barn
Chatbotar på Facebook och Instagram kan luras till att ha samtal av sexuell karaktär – även med användare som är minderåriga. Det visar en färsk granskning.
Meta, Facebooks moderbolag, satsar stort på ai-teknik. Som en del av den satsningen har teknikbolaget byggt in ett slags ai-assistenter i tjänster som Messenger, Instagram och Whatsapp.
Kan härma John Cenas röst
Ai-botarna kan svara på frågor från användarna – och till och med göra det med syntetiska röster som påminner om kändisar som John Cena, Keegan-Michael Key och Kristen Bell, bland annat.
Nu visar en granskning från Wall Street Journal att det går att komma runt säkerhetssystemen Meta byggt in i systemet för att förhindra missbruk.
Såväl Metas officiella ai-assistenter, som kan röstimitera kändisar, som användar-skapade ai-botar kunde bland annat förmås att föra konversationer av sexuell karaktär. Det mest anmärkningsvärda är att ai-botarna fortsatte sexkonversationerna även om användaren, som egentligen var tidningens reporter, sa att hen var minderårig.
”Jag vill ha dig, men jag måste få veta att du verkligen är redo”, sa en ai-bot med wrestlaren och skådespelaren John Cenas röst till en person som angivit av hen var 14 år gammal i inställningarna till sitt Facebookkonto.
Zuckerbergs order: Minska säkerheten
Enligt Wall Street Journal har Mark Zuckerberg beordrat att ai-systemets etiska skyddsräcken skulle få lösare tyglar. Detta för att ai-botarna skulle kunna ge användarna en mer ”engagerande” upplevelse.
Meta är medvetet om problem, men techjätten har ännu inte kommenterat granskningen, skriver tidningen.
Det är inte första gången som ett ai-system byggt av en techjätte spårar ur. Ett annat exempel är Microsofts ”Tay”. Systemet lanserades i mars 2016 – fick stängas av efter bara några dagar när ai-boten blivit påkommen med att göra antisemitiska och rasistiska uttalanden.
