Zo gaat Google nare internetreacties aanpakken
Erwin Vogelaar

Googles Jigsaw gaat nare online reacties aanpakken met Perspective, een API die machine learning gebruikt om misbruik en pesterijen te spotten.

Dit doet Perspective

Er zijn weinig plekken online waar de reacties altijd prettig zijn. Kijk je een video op YouTube of lees je ergens een blog, dan kun je meestal beter niet naar beneden scrollen. Verschillende sociale netwerken, zoals Twitter en Instagram, geven hun gebruikers steeds meer middelen om giftige reacties niet te hoeven lezen, maar voor de rest van het internet blijft dit een probleem. Google denkt daar wat aan te kunnen doen met zijn incubator Jigsaw. Jigsaw heeft namelijk Perspective gelanceerd, een API die via machine learning het internet helpt op te opruimen.

Perspective

Perspective leest reacties en geeft ze een score gebaseerd op wat voor impact de reactie kan hebben op een gesprek. Aanvankelijk zal Perspective alleen de giftigheid van de reacties meten, maar later dit jaar zullen er ook andere modellen gelanceerd worden. Websites krijgen zelf de keuze wat ze met deze score doen. De API zal dus alleen een giftigheidscore geven, maar een website kan er bijvoorbeeld voor kiezen om een melding te krijgen van reacties boven een bepaalde score zodat deze vlot door een moderator bekeken kunnen worden. Of gebruikers krijgen een manier om reacties boven een bepaalde score automatisch te verbergen.

Er wordt door de API niet alleen gekeken naar bepaalde woorden, maar ook de context waarin die woorden gezegd worden. Perspective heeft onder andere geleerd van de talloze discussies op Wikipedia. De reacties in deze discussies over pagina-aanpassingen zijn door een jury bestudeerd. De jury heeft vervolgens elke reactie een score gegeven in hoeverre er een persoonlijke aanval wordt gedaan. Deze data is gebruikt om Perspective te trainen. Vooralsnog kan Perspective alleen voor Engelstalige reacties gebruikt worden. Op deze pagina kun je testen hoe jouw reactie scoort.

Lees het laatste nieuws over Google

Draag ook bij aan dit artikel

Deel je kennis of stel een vraag. Dat kan anoniem of met een Disqus account.