Youtubes misstag: Algoritmer kopplade Notre Dame-branden till 11 september

2019-04-16 11:39  

Nya, smarta algoritmer skapades för att motverka spridningen av desinformation på Youtube. Men i går kopplade samma algoritmer ihop Notre Dame-branden med 11 september-attacken - av misstag.

Nyheten om den kraftiga branden som drabbat Notre Dame i Paris lämnar få oberörda. När nyheten började sprida sig på måndagskvällen var det många som sökte sig ut på nätet i jakt på information om branden. På Googleägda Youtube, med miljontals användare världen över, fanns en livesändning som visade brandens utveckling i Paris.

Läs mer: Fem världsarv utanför landets gränser

Men Youtube-användare i USA och Sydkorea lade märke till något underligt under kvällen. I så kallade "knowledge panels" (kunskapspaneler på svenska, ungefär) kopplade Youtube ihop Notre Dame-branden med 11 september-attacken. Informationen om terroristdådet i USA hämtades automatiskt från Encyclopedia Britannica av Youtubes algoritmer.

"Knowledge panel"-funktionen har inte tagits i bruk alla delar av världen än, men fungerar som så att informationsskyltar med information läggs ovan på bilden i det Youtube-klipp som spelas. Ungefär som när statistik och annan information överlappas i bild under sportsändningar.

Googles bildigenkänningsverktyg kan ha tagit fel

Det är ännu inte fastställt vad som orsakade branden i Paris, men tidiga analyser pekar på att den kan härledas till det stora renoveringsarbete som pågår på katedralen. En möjlig förklaring till Youtubes algoritmer tagit fel, kan vara att strömningstjänstens automatiserade bildigenkänningsverktyg kopplade samman bilderna på det brinnande Notre Dame med liknande material från World Trade Center-byggnaderna.

Läs mer: Lista: 5 ai-trender alla måste ha koll på

– Så länge som vi använder automatiserade verktyg för att hantera innehåll, finns det alltid utrymme för felmarginaler. Det här är ett mångfacetterat problem: tekniken skapades för att snabbt upptäcka falska nyheter, men här har den istället kopplat ihop en händelse med 11 september-attacken på felaktiga grunder, säger Vagelis Papalexakis, forskarassistent i datavetenskap vid University of California, till The Guardian.

Nätjättens ursäkt: Ibland gör våra system fel

Google började använda sig av kunskapspaneler i flera av sina tjänster, exempelvis Youtube, under 2018. Syftet är att motverka spridningen av desinformation. Men efter att algoritmen på måndagskvällen gjorde exakt vad den är skapad för att motverka, valde Google att stänga av funktionen på Youtube.

"Panelerna styrs helt av algoritmer, och ibland begår våra system misstag", säger Youtube i en kommentar till The Guardian.

Kravet: Google måste bli mer öppet

Youtube-incidenten på måndagen väcker frågor om hur plattformens algoritmer fungerar. Nu flaggar flera experter för att Youtube, och i förlängningen även Google, måste bli mer öppna med hur algoritmer som denna skapas - och hur de används.

Läs mer: ”Ett rättvist uppladdningsfilter är tekniskt omöjligt”

– Vi behöver få bättre möjligheter att granska Youtubes algoritmer för att förstå varför den betedde sig som den gjorde. Det hjälper inte att stoppa huvudet i sanden som Youtube nu gör, säger Caroline Sinders, som forskar om maskininlärning på Harvard, till The Guardian.

Kalle Wiklund

Kommentarer

Välkommen att säga din mening på Ny Teknik.

Principen för våra regler är enkel: visa respekt för de personer vi skriver om och andra läsare som kommenterar artiklarna. Alla kommentarer modereras efter publiceringen av Ny Teknik eller av oss anlitad personal.

  Kommentarer

Debatt