Waarom YouTube jarenlang te weinig deed tegen gevaarlijke video’s
Thomas Haenen

YouTube heeft jarenlang te weinig opgetreden tegen video’s vol complottheorieën. Uit een nieuw verhaal blijkt dat de videodienst vooral probeerde meer kijkers te trekken, en daarbij goede moderatie uit het oog verloor.

Waarom YouTube gevaarlijke video’s doorlaat

YouTube is veruit de populairste videodienst wereldwijd. Iedere minuten komen er honderden uren aan video’s bij, en met z’n allen kijken we dagelijks miljarden uren naar al die nieuwe beelden. Voor steeds meer mensen is YouTube dé plek voor zowat al hun entertainment en informatie.

Dat brengt ook serieuze problemen met zich mee, zo blijkt uit een verhaal van Bloomberg. Bij steeds meer gebruikers duiken de laatste jaren controversiële video’s op tussen de suggesties. Zo doken tussen de kindervideo’s steeds vaker beelden op van volwassenen verkleed als kinderfiguren, die gewelddadige acties uithaalden. Ook werd (en wordt) YouTube gebruikt door anti-vaccinatie-figuren en andere complottheoriegelovers om hun gedachtegoed te verspreiden. Daardoor komt Google steeds vaker onder vuur voor het verspreiden van gevaarlijke video’s via YouTube.

1. ‘YouTube is een bibliotheek’

Nu blijkt dat YouTube jarenlang bewust deze problemen negeerde. Volgens Bloomberg komt dat omdat Susan Wojcicki, de ceo van YouTube, de videodienst lange tijd als een bibliotheek zag. “Er zijn altijd controverses geweest bij bibliotheek,” aldus de topvrouw. Maar het bedrijf nam onder haar bewind lange tijd geen enkele posities aan: vrije meningsuiting was het allerbelangrijkste, ongeacht de meningen die daaruit voor komen.

YouTube gevaarlijke video's

Binnen YouTube zelf was daar veel onenigheid over. Sommige medewerkers stelden voor om de twijfelachtige video’s niet te verbieden, maar om ze op z’n minst niet meer tussen de suggesties te tonen.

Daardoor zouden alleen de kijkers geabonneerd op een bepaald kanaal nog bij de video’s terecht komen. Welke tactiek de YouTube-medewerkers echter ook probeerden, de top van het bedrijf weigerde: “Laat alles zoals het is, jaag de mensen niet in het harnas” was lange tijd het mantra.

2. Engagement boven alles

Het algoritme dat gebruikt werd om video’s aan te bevelen, was daarop ook afgesteld. Lange tijd draaide YouTube om ‘engagement’ boven alles. De videodienst wilde dat bedrijven langer bleven kijken naar meer video’s, ook als die twijfelachtige inhoud hadden of voor ontevredenheid zorgde bij gebruikers. Als video’s ‘viraal’ waren, was dat goed, ongeacht de inhoud. Daardoor kregen gebruikers bijvoorbeeld anti-vaccinatie kanalen te zien: zelfs als gebruikers het ermee oneens waren, bleven ze langer kijken om alle argumenten te zien.

Het beleid van de videodienst: kop in het zand en alles negeren. “Advocaten adviseerden medewerkers dat ze niet op zoek moesten gaan naar twijfelachtige video’s, zoals leugens over de Amerikaanse Supreme Court,” aldus het artikel. Zodra medewerkers de video’s zelf bekeken, konden ze namelijk niet meer ontkennen dat deze beelden online stonden.

Langzaam maar zeker begint het beleid binnen Google te veranderen. Naast veel anti-vaccinnatievideo’s worden nu waarschuwingen getoond en links naar wetenschappelijke sites. Het algoritme is nu niet meer enkel ingericht op engagement, en de meest gevaarlijke video’s en riskante kanalen worden sneller verwijderd. Toch laat YouTube nog altijd veel twijfelachtige inhoud toe.

3. Beperkte moderatie

Wat ook niet hielp, was de beperkte moderatie die YouTube voor alle video’s had. Hoewel er iedere minuut vele uren aan video’s bijkomen, bestond het complete moderatieteam van de videodienst tot 2017 uit minder dan twintig medewerkers.

Het bedrijf gebruikte vooral machine learning en eigen algoritmes om ‘foute’ video’s te herkennen en verwijderen. Het team van YouTube was zelfs te klein om nieuwe regels en beter beleid op te stellen om de gevaarlijke video’s tegen te gaan.

YouTube Kids Nederland

Sindsdien heeft YouTube serieuze stappen gezet om in ieder geval dit probleem aan te pakken. Het bedrijf heeft sinds 2007 ‘duizenden’ mensen aangenomen om content te modereren. In totaal zouden er binnen Google nu bijna 10.000 mensen bezig zijn met moderatie, al is onbekend hoeveel daarvan exact voor YouTube aan de slag zijn.

Lees ook meer over YouTube Kids, een beperkte versie van de videodienst met enkel kindvriendelijke video’s. Of abonneer je op het YouTube-kanaal van Android Planet voor reviews en tips voor je smartphones.

Lees meer over YouTube

Draag ook bij aan dit artikel

Deel je kennis of stel een vraag. Dat kan anoniem of met een Disqus account.