Hoe serieus moet je waarschuwingen nemen dat AI de mensheid zal uitroeien?

De makers van ChatGPT waarschuwen dat kunstmatige intelligentie de mensheid zal uitroeien. Is AI echt zo gevaarlijk?

Kunstmatige intelligentie gevaarlijk?

OpenAI staat met ChatGPT vooraan als het gaat om de nieuwste ontwikkelingen rond kunstmatige intelligentie. Toch maakt het bedrijf zich zorgen dat AI te krachtig wordt en over enkele jaren de mensheid uit zal roeien. Onderzoekers van Google’s Deepmind delen dezelfde angst.

In een korte blog schrijft OpenAI dat het denkbaar is dat AI-systemen in de komende tien jaar op de meeste vlakken expert niveau zullen bereiken. Het bedrijf stelt dat we daardoor een welvarende toekomst kunnen hebben, maar enkel als we de grote risico’s onder controle krijgen.

Wat is AGI?

Een belangrijk onderdeel van dit gesprek is het concept van een AGI, wat staat voor artificial general intelligence. Dat klinkt niet als een enorm verschil vergeleken met normale artificial intelligence, maar dat is het wel.

Een AGI is een superintelligentie die op mentaal vlak hetzelfde als mensen kan, zoals dingen leren en taken uitvoeren. De huidige technologie is daar nog lang niet, maar de ontwikkeling gaat razendsnel. OpenAI denkt dus dat we daar binnen tien jaar al zijn. 

Wat kan AI doen dan?

Het probleem is dat als een AI net zo slim wordt als mensen en zich verder ontwikkelt, het ook keuzes kan maken die tegen de mensheid in kunnen gaan. 

Een veelgebruikt voorbeeld is dat van een machine die de opdracht krijgt om paperclips te maken. Die machine doet alles om aan die taak te blijven voldoen, zelfs als alle grondstoffen op zijn en als de mensheid de machine probeert te stoppen. Mensen veranderen dan in een probleem dat opgelost moet worden om maar die paperclips te kunnen maken. 

Zodra kunstmatige intelligentie op een of andere manier besluit dat mensen een probleem zijn, zijn er genoeg manieren om van ons af te komen.

Wat moet er gebeuren?

OpenAI heeft drie ideeën over wat er moet gebeuren. Er moet volgens het bedrijf allereerst coördinatie bestaan tussen de verschillende platformen die aan AI werken, om er voor te zorgen dat de ontwikkeling van superintelligentie zo veilig mogelijk gebeurt. 

Daarnaast wil OpenAI een soort International Atomic Energy Agency (dat ervoor zorgt dat atoomenergie wordt gebruikt voor vrede, gezondheid en welvaart) voor kunstmatige intelligentie. Dat moet een internationale autoriteit zijn die systemen kan inspecteren, testen enzovoort. Ook denkt OpenAI dat het publiek zeggenschap moet hebben over wat de grenzen van kunstmatige intelligentie mogen zijn. 

Waarom gaat OpenAI door?

Als OpenAI zich zo zorgen maakt, is een logische vervolgvraag waarom het bedrijf dan toch door gaat met het de ontwikkeling van kunstmatige intelligentie. OpenAI denkt dat technologie uiteindelijk voor een veel betere wereld kan zorgen: “De economische groei en de toename van de kwaliteit van leven zullen verbluffend zijn”, schrijft OpenAI. De kans op een beter leven weegt volgens het bedrijf veel zwaarder dan het mogelijke gevaar.

Moet ik mij zorgen maken?

Er is nu niets aan de hand. Je hoeft niet te stoppen met het gebruiken van ChatGPT, of een van de vele andere AI-functies op je smartphone. Systemen zoals ChatGPT en Bard lijken intelligent, maar zijn dat niet. Ze weten heel goed hoe ze teksten moeten schrijven, maar snappen die teksten niet eens. Dat bedrijven zoals OpenAI nu wel met de hypothetische AGI bezig zijn en er voor waarschuwen lijkt dus nog wat voorbarig, maar je kunt er beter te vroeg mee zijn dan te laat.

Aan de slag met ChatGPT

Wil je zelf aan de slag met ChatGPT? Er is nu een officiële app voor Android uitgebracht. We geven je tips voor goede ChatGPT-prompts.