Terwijl de kunstmatige intelligentie van Google steeds slimmer wordt, dreigt er ook een gevaar. Wordt het niet te slim? Google bouwt nu een belangrijke uitknop om gevaarlijke situaties te vermijden.
Uitknop kunstmatige intelligentie
De grote bedrijven zoals Facebook en uiteraard Google werken hard aan kunstmatige intelligentie. Deze AI moet onze ervaringen met de verschillende producten van deze bedrijven fijner maken. Google verwerkt nu bijvoorbeeld Smart Reply in verschillende apps, waarbij de reacties op e-mails en andere berichten al voor ons opgesteld worden.
Daarnaast komt later dit jaar Google Home en Google Allo, waar de nieuwe assistent van Google een grote rol gaat spelen. We lezen vaak over de bijzondere manieren waarop deze intelligentie getraind wordt, zoals door het spelen van het bordspel Go of door het lezen van liefdesromans. Er zit echter ook een duistere zijde aan de groei van kunstmatige intelligentie.
Mensen maken zich namelijk terecht zorgen over de toekomst als het gaat over kunstmatige intelligentie. Onder andere Elon Musk en Stephen Hawking hebben hun zorgen al geuit. De horrorvisie van AI is natuurlijk Skynet van de Terminator-films, wat uiteraard wat overdreven is. Maar wat de exacte gevolgen zijn als de ontwikkeling van AI razendsnel groeit, zijn onvoorzienbaar. Daarom bouwt Googles DeepMind een uitknop om AI stop te kunnen zetten. Dit is opgeschreven in de paper “Safely Interruptible Agents”, geschreven door Laurent Orseau.
In de paper beschrijft Orseau dat AI-entiteiten, zoals robots, zich niet altijd optimaal zullen gedragen. “Als zo’n entiteit real-time onder supervisie van een mens staan, dan kan het zo nu en dan nodig zijn om op een grote rode knop te drukken, om de entiteit te stoppen schadelijke acties te ondernemen.” De onderzoekers hebben een ‘framework’ ontwikkeld waardoor een AI gestopt kan worden, zonder dat de kunstmatige intelligentie kan leren om die interruptie te negeren of te voorkomen.
Lees het laatste nieuws over Google
- ‘Zo ga je de Google Assistent makkelijker met één hand bedienen’ (14-12)
- Pixel Sounds-app van Google geeft je meer vrijheid over je ringtone (13-12)
- Dit waren de populairste zoektermen op Google in 2018 (12-12)
- Google+ wordt sneller geschrapt na tweede datalek (11-12)
- ‘Renders tonen Google Pixel 3 Lite en Pixel 3 Lite XL met verouderd design’ (10-12)
