Ny lag ska stoppa politiska ”deepfakes”

2019-10-08 11:40  
Fejkad video. Tidigare presidenten Barack Obama är en av dem som utsatts för "deepfakes". Foto: WNYC Studios

Den amerikanska delstaten Kalifornien tar i med hårdhandskarna mot fejkade videoklipp och bilder som manipulerats med ai-teknik.

Vad har president Donald Trump, tidigare presidenten Barack Obama och Facebooks grundare Mark Zuckerberg gemensamt?

Alla tre av dessa makthavare har blivit utsatta för så kallade "deepfakes". Det vill säga digitalt manipulerade videoklipp och bilder som skapas med hjälp av maskininlärning. Tidigare har ledande forskare varnat för hur den här typen av material kan användas till att sprida falska budskap och desinformation i valkampanjer.

Blir förbjudet att distribuera deepfake-klipp

För att stoppa den här typen av manipulering har delstaten Kalifornien på den amerikanska västkusten precis infört två nya lagar. Den första innebär ett förbud mot att distribuera deepfake-videoklipp som har skapats för att svartmåla politiska kandidater, eller som kan vilseleda väljarna 60 dagar för ett val.

Läs mer: Möss kan bli ett vapen mot deepfakes

Den andra lagen betyder att amerikanska medborgare i Kalifornien får rätt att stämma den eller de som står bakom en deepfakes-video där personen utan medgivande har placerats i en pornografisk kontext.

Svårt att genomskåda bluffvideos

De nya lagarna skulle kanske ha kunnat stoppa spridningen av en av de mest kända deepfake-klippen. I videon, som dök upp för några år sedan, sa Barack Obama att det viktigaste för hans politiska arv efter presidentskapet var att han fokuserar på sitt golfspelande.

Läs mer: Fem sätt hackare kan attackera med hjälp av artificiell intelligens

Men videofilmen är en bluff skapad av teknikjournalisten Simon Adler. Genom att själv läsa in replikerna och sedan använda maskininlärning för att skapa artificiella munrörelser och ansiktsutryck hos Obama, lyckades Adler få det att se ut som det var USA:s tidigare president som framförde budskapet. Resultatet är slående naturligt, och svårt att genomskåda.

Kalle Wiklund

Kommentarer

Välkommen att säga din mening på Ny Teknik.

Principen för våra regler är enkel: visa respekt för de personer vi skriver om och andra läsare som kommenterar artiklarna. Alla kommentarer modereras efter publiceringen av Ny Teknik eller av oss anlitad personal.

  Kommentarer

Debatt