Därför skapar Facebook egna deepfakes

2019-09-06 13:10  
Foto: AP Photo/Marcio Jose Sanchez, File

Det har blivit allt lättare att använda ai för att göra trovärdiga ansiktsbyten i bilder och videos. Nu tänker Facebook skapa egna deepfakes, som ett led i att motverka baksidorna med tekniken.

Deepfakes kan förstås ses som en rolig grej, men många oroas över den betydligt allvarliga baksidan med att ansiktsbyten i bilder och videos blir allt mer trovärdiga. Det underlättar sådant som fejkad kändisporr och ett spridande av desinformation i valkampanjer.

Facebook-grundaren Mark Zuckerberg har själv blivit föremål för tekniken. I somras blev ett satiriskt klipp där han tycks tala om att stjäla användardata viralt. Innan dess hade Facebook sagt att bolaget inte skulle ta bort den här typen av inslag. Men det verkar som att Mark Zuckerberg nu har kommit på lite andra tankar.

Facebook ska börja skapa egna deepfakes, berättar Techcrunch. Det låter kanske märkligt, men syftet är att få till bättre tekniker för att detektera det luriga materialet.

Läs mer: Möss kan bli ett vapen mot deepfakes

Bolaget kommer inte att använda användares bilder och videos för projektet, utan vänder sig till betalda skådespelare för att ta fram sitt material. Detta kommer sedan att delas med ”intresserade aktörer”, däribland universitet, som kan testa och bygga lösningar för att avslöja deepfakes. I potten ska det finnas prispengar.

Totalt satsar Facebook ungefär 10 miljoner dollar på sin Deepfake Detection Challenge.

Läs mer: Fem sätt hackare kan attackera med hjälp av artificiell intelligens

Professor Rama Chellappa vid University of Maryland välkomnar möjligheten för forskare att i en öppen miljö kunna utveckla metoder och system för att detektera deepfakes, och minska de negativa effekterna av dessa.

– Genom att tillhandahålla en stor mängd äkta och manipulerad media kommer utmaningen att göra det möjligt för forskarsamhället att gemensamt ta itu med den här krisen, säger hon i ett pressuttalande.

De första testerna inleds i oktober.

Ania Obminska

Kommentarer

Välkommen att säga din mening på Ny Teknik.

Principen för våra regler är enkel: visa respekt för de personer vi skriver om och andra läsare som kommenterar artiklarna. Alla kommentarer modereras efter publiceringen av Ny Teknik eller av oss anlitad personal.

  Kommentarer

Debatt