Terwijl de kunstmatige intelligentie van Google steeds slimmer wordt, dreigt er ook een gevaar. Wordt het niet te slim? Google bouwt nu een belangrijke uitknop om gevaarlijke situaties te vermijden.
Lees verder na de advertentie.
Uitknop kunstmatige intelligentie
De grote bedrijven zoals Facebook en uiteraard Google werken hard aan kunstmatige intelligentie. Deze AI moet onze ervaringen met de verschillende producten van deze bedrijven fijner maken. Google verwerkt nu bijvoorbeeld Smart Reply in verschillende apps, waarbij de reacties op e-mails en andere berichten al voor ons opgesteld worden.
Daarnaast komt later dit jaar Google Home en Google Allo, waar de nieuwe assistent van Google een grote rol gaat spelen. We lezen vaak over de bijzondere manieren waarop deze intelligentie getraind wordt, zoals door het spelen van het bordspel Go of door het lezen van liefdesromans. Er zit echter ook een duistere zijde aan de groei van kunstmatige intelligentie.
Mensen maken zich namelijk terecht zorgen over de toekomst als het gaat over kunstmatige intelligentie. Onder andere Elon Musk en Stephen Hawking hebben hun zorgen al geuit. De horrorvisie van AI is natuurlijk Skynet van de Terminator-films, wat uiteraard wat overdreven is. Maar wat de exacte gevolgen zijn als de ontwikkeling van AI razendsnel groeit, zijn onvoorzienbaar. Daarom bouwt Googles DeepMind een uitknop om AI stop te kunnen zetten. Dit is opgeschreven in de paper “Safely Interruptible Agents”, geschreven door Laurent Orseau.
In de paper beschrijft Orseau dat AI-entiteiten, zoals robots, zich niet altijd optimaal zullen gedragen. “Als zo’n entiteit real-time onder supervisie van een mens staan, dan kan het zo nu en dan nodig zijn om op een grote rode knop te drukken, om de entiteit te stoppen schadelijke acties te ondernemen.” De onderzoekers hebben een ‘framework’ ontwikkeld waardoor een AI gestopt kan worden, zonder dat de kunstmatige intelligentie kan leren om die interruptie te negeren of te voorkomen.
Lees het laatste nieuws over Google
- “Google Pixel 6 en Pixel 6 Pro krijgen radicaal nieuw ontwerp” (13-5)
- ‘Zo kun je de Google Assistent snel activeren in Android 12’ (11-5)
- Opinie: Google heeft zijn voorsprong op cameragebied weggegooid (10-5)
- Deze Android-smartphones kregen een (beveiligings)update – week 18 (7-5)
- Video van de week: Google Nest Hub 2 review (7-5)