Youtubes misstag: Algoritmer kopplade Notre Dame-branden till 11 september

Nyheten om den kraftiga branden som drabbat Notre Dame i Paris lämnar få oberörda. När nyheten började sprida sig på måndagskvällen var det många som sökte sig ut på nätet i jakt på information om branden. På Googleägda Youtube, med miljontals användare världen över, fanns en livesändning som visade brandens utveckling i Paris.

Men Youtube-användare i USA och Sydkorea lade märke till något underligt under kvällen. I så kallade "knowledge panels" (kunskapspaneler på svenska, ungefär) kopplade Youtube ihop Notre Dame-branden med 11 september-attacken. Informationen om terroristdådet i USA hämtades automatiskt från Encyclopedia Britannica av Youtubes algoritmer.

"Knowledge panel"-funktionen har inte tagits i bruk alla delar av världen än, men fungerar som så att informationsskyltar med information läggs ovan på bilden i det Youtube-klipp som spelas. Ungefär som när statistik och annan information överlappas i bild under sportsändningar.

Googles bildigenkänningsverktyg kan ha tagit fel

Det är ännu inte fastställt vad som orsakade branden i Paris, men tidiga analyser pekar på att den kan härledas till det stora renoveringsarbete som pågår på katedralen. En möjlig förklaring till Youtubes algoritmer tagit fel, kan vara att strömningstjänstens automatiserade bildigenkänningsverktyg kopplade samman bilderna på det brinnande Notre Dame med liknande material från World Trade Center-byggnaderna.

– Så länge som vi använder automatiserade verktyg för att hantera innehåll, finns det alltid utrymme för felmarginaler. Det här är ett mångfacetterat problem: tekniken skapades för att snabbt upptäcka falska nyheter, men här har den istället kopplat ihop en händelse med 11 september-attacken på felaktiga grunder, säger Vagelis Papalexakis, forskarassistent i datavetenskap vid University of California, till The Guardian.

Nätjättens ursäkt: Ibland gör våra system fel

Google började använda sig av kunskapspaneler i flera av sina tjänster, exempelvis Youtube, under 2018. Syftet är att motverka spridningen av desinformation. Men efter att algoritmen på måndagskvällen gjorde exakt vad den är skapad för att motverka, valde Google att stänga av funktionen på Youtube.

"Panelerna styrs helt av algoritmer, och ibland begår våra system misstag", säger Youtube i en kommentar till The Guardian.

Kravet: Google måste bli mer öppet

Youtube-incidenten på måndagen väcker frågor om hur plattformens algoritmer fungerar. Nu flaggar flera experter för att Youtube, och i förlängningen även Google, måste bli mer öppna med hur algoritmer som denna skapas - och hur de används.

– Vi behöver få bättre möjligheter att granska Youtubes algoritmer för att förstå varför den betedde sig som den gjorde. Det hjälper inte att stoppa huvudet i sanden som Youtube nu gör, säger Caroline Sinders, som forskar om maskininlärning på Harvard, till The Guardian.