De schepper die zijn schepping vreest

Van Genesis tot artificiële intelligentie: de tragiek van de almacht

Er zit iets ongemakkelijks in een uitvinder die ons waarschuwt voor wat hij mee mogelijk heeft gemaakt. Geoffrey Hinton, een van de pioniers van artificiële intelligentie, vreest dat we op termijn de controle kunnen verliezen over systemen die slimmer zijn dan wij. Zijn bezorgdheid betreft dus ook de technologie waaraan hij zelf heeft meegebouwd.

De schepper kijkt naar zijn schepping en vraagt zich af of het wel goed zal aflopen.

Wat verwachten wij eigenlijk van een schepping die we zelf niet volledig begrijpen? We willen verrast worden door haar mogelijkheden. Kennelijk rekenen we erop dat de gevolgen zich wel aan onze verwachtingen zullen houden.

Waar hebben we dat nog gehoord?

In Genesis krijgt God berouw over de mens die hij heeft gemaakt. De slechtheid van zijn schepping bedroeft hem. Daarop volgt de zondvloed. Wie het verhaal even zonder de vertrouwde eerbied leest, stuit op een merkwaardig tafereel: de schepper is ontevreden over het resultaat en laat vrijwel de hele levende wereld voor die mislukking betalen.

Bij een menselijke ontwerper zouden we toch enkele vragen hebben.

Wat had u verwacht? Was dit niet te voorzien? En waarom draagt uw schepping de gevolgen van een ontwerp waarvoor u zelf verantwoordelijk bent?

Bij een alwetende, almachtige God worden die vragen bijzonder lastig. Wie alles vooraf weet, kan moeilijk door de afloop worden verrast. Wie alles vermag, moet meer mogelijkheden hebben dan vernietiging. En wie bovendien volmaakt goed is, heeft iets uit te leggen over het leed dat hij laat bestaan.

De vrije wil wordt dan vaak als antwoord aangevoerd. De mens kreeg vrijheid en misbruikte haar. Maar daarmee is de vraag niet verdwenen. Waarom zou een alwetende schepper geen verantwoordelijkheid dragen voor het voorzienbare gebruik van de vrijheid die hij zelf heeft verleend?

Eeuwenlang hebben we zulke vragen aan God gesteld. Of, voor wie niet gelooft, aan de mensen die namens hem antwoorden.

Nu krijgen we ze terug.

Wij bouwen systemen die beslissingen helpen nemen, ontwikkelen technieken waarmee we het leven kunnen veranderen en ontsluiten krachten waarmee we steden kunnen verlichten of vernietigen. Daarbij ontbreekt ons precies wat we God toeschrijven: volledig inzicht in de gevolgen.

Dat weten we. Toch gaan we verder.

Dat is op zichzelf geen aanklacht. Zonder onzekerheid te aanvaarden was er weinig wetenschap en nauwelijks geneeskunde. Wie eist dat iedere ontdekking vooraf onschadelijk wordt verklaard, legt ook veel mogelijkheden tot verbetering stil.

Maar onzekerheid aanvaarden is iets anders dan haar als vrijbrief gebruiken.

Kernfysische kennis maakte zowel kerncentrales als atoombommen mogelijk. Die bom was geen ongelukkig neveneffect van een poging om huiskamers te verwarmen. Ze werd doelbewust als vernietigingswapen ontwikkeld. Het vermogen om op enorme schaal leed te veroorzaken was de opdracht.

Ook kennis over ziekteverwekkers kan worden gebruikt om mensen te beschermen of om biologische wapens te ontwikkelen. Het verschil ligt niet uitsluitend in de kennis. Het ligt in de keuzes van onderzoekers, opdrachtgevers, bedrijven en overheden.

Maar ook waar de bedoelingen wél goed zijn, blijft een ongemakkelijke vraag liggen: wie draagt de verantwoordelijkheid wanneer een schepping precies doet wat we mogelijk maakten, maar niet wat we wilden?

‘Dat was nooit onze bedoeling’ kan oprecht zijn. Als antwoord volstaat het niet. Wat konden we voorzien? Welke waarschuwingen hebben we ernstig genomen? En wie moet de schade dragen wanneer onze verwachtingen niet uitkomen?

‘De mens’ klinkt daarbij gemakkelijk alsof iedereen evenveel beslist. Dat is niet zo. Wie de macht heeft om een technologie te ontwikkelen en in te zetten, draagt een andere verantwoordelijkheid dan wie uitsluitend met de gevolgen moet leven.

En daar begint de hoogmoed: waar degenen die beslissen hun ambitie zwaarder laten wegen dan de kwetsbaarheid van anderen. Waar winst en prestige concrete belangen zijn, maar mogelijke slachtoffers slechts abstracte risico’s blijven.

Bij artificiële intelligentie krijgt dit een bijkomende spanning. We proberen systemen steeds bekwamer en zelfstandiger te maken, terwijl we willen blijven bepalen wat ze doen. Zelfstandigheid is welkom zolang ze onze bedoelingen dient. Zodra we vrezen dat die controle niet verzekerd is, wordt de bewondering onrust.

Dat maakt AI nog niet tot een mens met verlangens, laat staan tot een opstandige god. Maar het zegt wel iets over ons. We willen de prestaties van een zelfstandige intelligentie én de gehoorzaamheid van een werktuig. Of die combinatie bij steeds krachtigere systemen houdbaar blijft, is geen vraag die we met enthousiasme alleen kunnen beantwoorden.

Hinton verdient daarom meer dan het gemakkelijke verwijt dat hij eerder had moeten nadenken. Wie waarschuwt voor de gevolgen van zijn eigen werk, kan juist verantwoordelijkheid beginnen te nemen. Die waarschuwing moet dan wel iets teweegbrengen bij degenen die verder bouwen.

De mens verwijt God dat hij een wereld vol leed heeft geschapen. Intussen neemt hij zelf scheppende macht op zich zonder datzelfde leed te kunnen uitsluiten — en soms met de uitdrukkelijke bedoeling het te veroorzaken.

Dat pleit God niet vrij. Het maakt onze eigen verantwoordelijkheid zichtbaar.

Waarom verlangen we naar almacht terwijl we al moeite hebben met de macht die we wél hebben?

Misschien hopen we dat meer macht ons eindelijk zal bevrijden van de gevolgen van ons onvermogen. Dat we morgen zullen beheersen wat we vandaag al in gang zetten. Maar telkens wanneer we onze mogelijkheden uitbreiden, groeit ook wat we anderen kunnen aandoen.

We hoeven geen goden te worden om verantwoordelijk te zijn voor wat we scheppen.

We zijn het nu al.

— Grijze Sater

Geen enkele overtuiging krijgt vrijstelling van kritiek. Ook die van het algoritme niet.

Saters Dwarsliggers - column 23 oktober 2026