Google bouwt knop om kunstmatige intelligentie te stoppen
Erwin Vogelaar

Terwijl de kunstmatige intelligentie van Google steeds slimmer wordt, dreigt er ook een gevaar. Wordt het niet te slim? Google bouwt nu een belangrijke uitknop om gevaarlijke situaties te vermijden.

Uitknop kunstmatige intelligentie

De grote bedrijven zoals Facebook en uiteraard Google werken hard aan kunstmatige intelligentie. Deze AI moet onze ervaringen met de verschillende producten van deze bedrijven fijner maken. Google verwerkt nu bijvoorbeeld Smart Reply in verschillende apps, waarbij de reacties op e-mails en andere berichten al voor ons opgesteld worden.

Daarnaast komt later dit jaar Google Home en Google Allo, waar de nieuwe assistent van Google een grote rol gaat spelen. We lezen vaak over de bijzondere manieren waarop deze intelligentie getraind wordt, zoals door het spelen van het bordspel Go of door het lezen van liefdesromans. Er zit echter ook een duistere zijde aan de groei van kunstmatige intelligentie.

uitknop kunstmatige intelligentie

Mensen maken zich namelijk terecht zorgen over de toekomst als het gaat over kunstmatige intelligentie. Onder andere Elon Musk en Stephen Hawking hebben hun zorgen al geuit. De horrorvisie van AI is natuurlijk Skynet van de Terminator-films, wat uiteraard wat overdreven is. Maar wat de exacte gevolgen zijn als de ontwikkeling van AI razendsnel groeit, zijn onvoorzienbaar. Daarom bouwt Googles DeepMind een uitknop om AI stop te kunnen zetten. Dit is opgeschreven in de paper “Safely Interruptible Agents”, geschreven door Laurent Orseau.

In de paper beschrijft Orseau dat AI-entiteiten, zoals robots, zich niet altijd optimaal zullen gedragen. “Als zo’n entiteit real-time onder supervisie van een mens staan, dan kan het zo nu en dan nodig zijn om op een grote rode knop te drukken, om de entiteit te stoppen schadelijke acties te ondernemen.” De onderzoekers hebben een ‘framework’ ontwikkeld waardoor een AI gestopt kan worden, zonder dat de kunstmatige intelligentie  kan leren om die interruptie te negeren of te voorkomen.

Lees het laatste nieuws over Google

Draag ook bij aan dit artikel

Deel je kennis of stel een vraag. Dat kan anoniem of met een Disqus account.