Google moet zijn kunstmatige intelligentie leren niet te discrimineren
Erwin Vogelaar

Met het groeiende belang van kunstmatige intelligentie voor Google, moet het bedrijf er voor zorgen dat zijn AI discriminatie ontwijkt.

AI discriminatie

Google’s kunstmatige intelligentie leert door de data die het gevoerd krijgt. Als in die data vooroordelen voorkomen, worden die ook doorgegeven aan de AI. Google is daarom bezig om verschillende vormen van AI discriminatie te vermijden met een methode dat “Equality of Opportunity” heet. Gelijkheid van kansen dus.

ai discriminatie

Kunstmatige intelligentie kan verkeerde conclusies trekken als het niet genoeg data heeft. Zo kan Google’s AI bijvoorbeeld bepaalde auto’s op foto’s niet herkennen, omdat het niet genoeg informatie heeft over die specifieke voertuigen. Hetzelfde kan gelden voor mensen. Er zijn mensen die minder vaak in de gevoede data voorkomen dan andere mensen, waardoor er een verkeerde balans ontstaat. Denk hierbij aan attributen als huidskleur, gender, beperking of religie. Moritz Hardt van Google stelt dat er nog geen methode voor machine learning was om deze vorm van discriminatie te vermijden. Samen met zijn collega’s Eric Price en Nathan Srebro heeft Hardt een paper geschreven met een methode hiervoor. Als je geen zin hebt om de hele paper te lezen, dan kun je ook spelen met een aantal interactieve grafieken.

Het idee achter de methode is dat het algoritme zichzelf aanpast, zodat er een gelijke proportie van de uitkomst is ongeacht een van de eerdergenoemde attributen. Dit wordt niet gedaan om politiek correct te zijn, maar om meer accurate voorspellingen te kunnen doen die kloppen met de werkelijkheid. Mocht een attribuut toch relevant zijn, dan is deze altijd nog toe te voegen.

Made by Google

Google heeft bij het Made by Google-evenement afgelopen 4 oktober de nadruk op kunstmatige intelligentie gelegd. Hierdoor ging het hardware-event voornamelijk over software. Machine learning is erg belangrijk voor steeds meer producten van Google, dus het is belangrijk dat het bedrijf er voor zorgt dat deze producten voor alle gebruikers goed werken. Op Android gebruiken we machine learning al onder andere bij Allo en Google’s assistent, Google Foto’s, Translate en Inbox.

Lees het laatste nieuws over Google

Draag ook bij aan dit artikel

Deel je kennis of stel een vraag. Dat kan anoniem of met een Disqus account.