Column (Marc de Vries): Ons menselijk denken blijkt beperkt

Voordat het eerste verhaal begint, komt de lezer de drie zogenaamde wetten van Asimov tegen. Deze wetten staan in het –uiteraard fictieve– roboticahandboek uit 2058 en zijn bedoeld om de robots zodanige beperkingen op te leggen dat de mens geen gevaar loopt, hoe geavanceerd die robots ook worden. Elk kort verhaal geeft een situatie weer waarin die drie wetten toch niet zo waterdicht blijken te zijn als ze op het eerste gezicht lijken.

De wetten luiden als volgt: 1. Een robot mag een mens geen letsel toebrengen, noch door passief te blijven een mens letsel laten overkomen; 2. Een robot moet de door mensen gegeven orders gehoorzamen, behalve wanneer die orders in strijd zijn met de eerste wet; 3. Een robot moet zichzelf beschermen zolang of voor zover dat niet in strijd is met de eerste of de tweede wet.

Met de combinatie van die drie wetten lijken alle mogelijke bedreigingen zo’n beetje gedekt. Een robot mag zelf de mens geen kwaad doen. Sterker nog, hij moet actief voorkomen dat de mens kwaad aangedaan wordt. Verder moet de robot de mens gehoorzamen. Maar als de ene mens de robot de opdracht geeft om de andere mens kwaad te doen, mag de robot dat bevel negeren. Hij mag zichzelf beschermen, maar alleen als hij daarbij niet tegen het bevel van de mens ingaat of een mens kwaad doet.

Wat kan er nog misgaan, zou je zeggen? Asimov lijkt in eerste instantie te suggereren dat we voor robots niet bang hoeven te zijn, want met deze drie wetten wordt voorkomen dat ze ons kunnen bedreigen.

”Ik, robot” laat echter zien dat het zo eenvoudig niet ligt. De verfilming van het boek doet dat haast nog overtuigender. In die film zijn elementen uit de verschillende verhalen uit het boek samengevoegd tot één doorlopend verhaal. Dat verhaal speelt ergens in de toekomst en robots zijn helemaal in de samenleving ingeburgerd. Onder robots moeten dan worden verstaan de blikken mannen die meestal intuïtief met het woord robot verbonden worden.

Op een gegeven moment wordt er een robotfabrikant –tevens bedenker van de drie robotwetten– dood aangetroffen. De hoofdrolspeler in de film, Del Spooner geheten, heeft bij voorbaat al argwaan tegen robots. Deze gaat samen met dr. Susan Calvin op onderzoek uit. Gaandeweg komen ze erachter dat er iets zeer ingrijpends aan de hand is. De robots zijn bezig een machtsovername voor te bereiden om de mens te gaan overheersen.

Spooner en Calvin vragen zich natuurlijk af hoe de robots dat kunnen, gegeven het feit dat ze binnen de beperkingen van de drie robotwetten moeten blijven. Een van de robots geeft op een bepaald moment de verbluffende uitleg: de robots zijn juist bezig om de wetten tot hun uiterste consequentie uit te voeren!

De robots hebben namelijk geconstateerd dat de mens voortdurend een gevaar voor zichzelf is: mensen bedreigen elkaar, voeren oorlog en bereiden hun eigen ondergang voor door het milieu totaal te verknoeien. De beste manier om de robotwetten uit te voeren, is dus om de mens tegen zichzelf te beschermen door hun de macht te ontnemen. Een macht die ze steeds misbruiken om elkaar en zichzelf te bedreigen.

Dit is een mooi voorbeeld van wat sciencefiction vaak doet: de uiterste consequentie van een technologische ontwikkeling laten zien om ons daardoor een spiegel voor te houden. We denken wel dat we de robots door een goede programmering onder de duim kunnen houden, maar er is altijd de mogelijkheid dat er een flink lek zit in de oplossing die we daarvoor bedacht hebben.

Natuurlijk kan het niet op de manier zoals boek en film suggereren, maar dat is ook niet essentieel voor de boodschap van Asimov. Die wil ons er wel van bewust maken dat technologische ontwikkelingen ook met zeer doordachte maatregelingen om ontsporingen te voorkomen, nooit 100 procent onder controle te brengen zijn.

Het is ontzettend belangrijk dat we ons daarvan bewust zijn. Niet om die ontwikkelingen allemaal stop te zetten, maar wel om voortdurend bedacht te zijn op de mogelijkheid dat ons iets ontgaan is. Asimov brengt de beperktheid van ons menselijk denken onder de aandacht, en dat is in een tijd waarin we steeds meer leunen op technologie geen overbodige luxe.

Prof. dr. Marc J. de Vries is bijzonder hoogleraar reformatorische wijsbegeerte aan de Technische Universiteit Delft. Reageren? rubriekforum@refdag.nl

Column (Marc de Vries): Ons menselijk denken blijkt beperkt

Opinie

RD.nl in uw mailbox?