Theoloog Ad de Bruijne wierp de vraag in februari op in het Nederlands Dagblad: Moeten christenen uitstappen als de techniek bijna-menselijke wezens creëert? Een maand eerder vroeg klinisch fysicus Aart Nederveen zich in dezelfde krant af waarom christenen ogenschijnlijk geen enkele weerstand bieden tegen nieuwe technologie.

Een vakantie naar Mars en de verregaande robotisering van de arbeidsmarkt zijn volgens trendwatcher Richard van Hooijdonk pas het begin. In ”De wereld van morgen” beschrijft hij welke invloed technologie de komende decennia op ons leven krijgt. Vooral kunstmatige intelligentie verandert de maatschappij ingrijpend, denkt Van Hooijdonk. Deze vorm van intelligentie is nu al aanwezig als gezichts- en spraakherkenning, maar zal volgens de trendwatcher een hoge vlucht nemen. Intelligente robots in allerlei soorten en maten doen hun intrede in het mensenpark. Een relatie met een robot die niet van een mens is te onderscheiden? Niet langer ondenkbaar, als het aan de trendwatcher ligt. Chirurgen kunnen massaal met pensioen, de robot doet het veel beter. Niet tevreden over de prestaties van je brein? Laat een chip implanteren.

Google Glass

Laten we niet te hard van stapel lopen, zegt filosoof René Munnik. „Google Glass zou de wereld fundamenteel veranderen. Maar ik zie eigenlijk nooit meer iemand met zo’n Googlebril. Veel van de ideeën komen niet verder dan de tekentafel.” Volgens Munnik moet je dus een beetje nuchter blijven wanneer trendwatchers de toekomst voorspellen. Dat de toepassing van nieuwe technologie vaak lastig is, blijkt bijvoorbeeld ook uit incidenten met zelfrijdende auto’s. Het zijn naar de mening van de filosoof daarom juist langdurende en niet zo opvallende processen die de wereld echt veranderen. Als voorbeeld noemt hij de toenemende invloed van digitalisering, wat ten koste gaat van het geschreven woord.

Zulke langetermijnontwikkelingen zijn vaak pas achteraf zichtbaar. Toch word je op dit moment geconfronteerd met allerlei nieuwe technologie, en Munnik vindt het daarom begrijpelijk dat mensen zich zorgen maken.

Hij merkt echter dat wanneer christenen reflecteren op nieuwe technologie, ze dit te snel isoleren van de werkelijkheid en er een ethisch vraagstuk van maken. „Maar als je denkt dat je simpelweg kunt beslissen of iets goed of fout is, heb je niet door op welke wijze technologie ingrijpt in ons leven, zonder dat dit ook maar iets met ethische vraagstukken heeft te maken.” Wil je zo’n standpunt toch bepalen, dan moet je dus rekening houden met de aard van technologie.

Onvoorspelbaar

In de eerste plaats is technologie onvoorspelbaar, vertelt Munnik. Toen technici in de jaren zestig van de vorige eeuw chips ontwikkelden, wisten ze precies welk technisch doel ze nastreefden. Ze hadden nooit kunnen bevroeden dat deze zouden leiden tot de hedendaagse informatiemaatschappij. Met andere woorden: het resultaat dat je behaalt, is niet per se de uitkomst van het doel dat je hebt gesteld. Als tweede noemt de filosoof pseudomorfie. Hiermee bedoelt hij dat nieuwe technologie altijd wordt gezien als verbetering van bestaande technologie. Daarom werd een auto in eerste instantie gezien als een koets zonder paard, waardoor je niet doorhebt in welke mate deze de maatschappij kan veranderen. Een derde aspect vormt de onzichtbaarheid.

De auto maakt tegenwoordig zo’n vanzelfsprekend deel uit van het moderne leven, niemand ziet dit nog als een ‘vreemd’ element. Je raakt dus gewend aan technologie. Het laatste punt is de zogenaamde technologische mediatie: de introductie van veel technologie verandert onze kijk op de werkelijkheid. Zo wordt het brein gezien als computer of de geest als informatieverwerker. In de middeleeuwen sprak men hier heel anders over en keek men op een andere manier naar het brein en de geest. Technologie bepaalt dus mede hoe we spreken.

Grensvervaging

Hoewel de onvoorspelbaarheid het lastig maakt om goed onderbouwde uitspraken te doen over de deugdelijkheid van nieuwe technologie, kun je volgens Munnik wel een belangrijke ontwikkeling aanwijzen: het vervagen van grenzen. In de wereld zoals mensen die waarnemen, zie je een aantal duidelijke onderscheidingen, zoals tussen dood en leven, lichaam en geest of mens en machine. Maar het is niet meer zo makkelijk aan te wijzen of iemand in comateuze toestand nu dood of levend is. Recent breinonderzoek laat zien dat het onderscheid tussen fysieke en mentale processen niet zo makkelijk is te trekken.

Machines lijken steeds meer op mensen, zoals mensachtige robots die met behulp van kunstmatige intelligentie zelf in staat zijn tot leren. Volgens Munnik lijkt dit op wat je in de Griekse mythologie ziet, waar de grens tussen mens en dier of mens en god ook niet zo scherp is. De filosoof begrijpt dat mensen schrikken van mensachtige robots en bang zijn dat het verschil tussen mens en machine niet meer te zien is, zoals in een Zweedse televisieserie, ”Real Humans”. „Maar wij projecteren het beeld dat wij van de mens hebben op zo’n robot. Daarom vinden we dat ze op ons lijken. Verwonderlijk is dat niet: we maken ze ook precies naar ons beeld van de mens.”

Zorgen over technologie

Toch zijn het juist deze bijna-menselijke robots die theoloog Ad de Bruijne zorgen baren. Hij verwijst naar ethicus Oliver O’Donovan, die vindt dat de mensheid God na-aapt door bijna-menselijke wezens te creëren. De Bruijne vreest dat „de overmoedige mens hiermee zijn eigen menselijkheid te gronde richt.” Hij heeft zich de afgelopen maanden verdiept in enkele aspecten van robotica en technologie om de mens te verbeteren. „Daar zie je bijvoorbeeld het idee dat menselijke intellectuele vermogens versterkt kunnen worden door een chip. Zo vervaagt de grens tussen natuur en materie.”

Klinisch fysicus Aart Nederveen ziet ook een grensvervaging optreden. Hij gebruikt een term die het Rathenau Instituut eerder muntte: intieme technologie.

Want het is niet langer zo dat de techniek buiten ons staat, zoals een auto; steeds vaker komt deze dicht op de huid. Een smartphone heb je in je broekzak en vormt voor veel mensen een onmisbaar verlengstuk.

Een chip die je intelligentie vergroot, kruipt zelfs onder je huid. Nederveen merkt dat het op wetenschappelijke congressen steeds vaker gaat over kunstmatige intelligentie. In zijn vakgebied betreft dit bijvoorbeeld computerprogramma’s die medische beelden beoordelen, waardoor er geen radioloog meer voor nodig is. „Computerprogramma’s kunnen net als mensen leren. Ze zijn vervolgens veel consequenter en betrouwbaarder in de uitvoering van hun taak”, aldus Nederveen.

Met alle gevolgen van dien. Want wat gebeurt er als kunstmatige intelligentie de mens overvleugelt? Word je dan, zoals De Bruijne schrijft, „een loser die niet overeind kan blijven tussen het nieuwe ras van supermensen” wanneer je geen chip in je hersenen hebt? Of moet je er als christen op vertrouwen dat God de technologische ontwikkelingen in de hand houdt? In principe is er met het vertrouwen op Gods leiding niets mis, zegt Nederveen. „Maar het is ook een beetje een goedkope reactie. Want zo redeneer je als mens vanuit een nogal comfortabele positie: God lost het wel op. Maar wij hebben als beperkte mensen geen toegang tot Gods gedachten.”

De Bruijne denkt dat het goed is om op Gods leiding te vertrouwen, maar vindt eveneens dat christenen moeten nadenken over de gevolgen van nieuwe technologie. „Vroeg of laat kom je ermee in aanraking. Het denken hierover begint volgens mij wel op gang te komen, maar het is, net als het reflecteren op milieu en economie, wel wat laat.”

Zinloos

Nederveen concludeert dat de meeste christenen het zinloos vinden om afzijdig te blijven bij nieuwe technologische ontwikkelingen en hier dus zonder al te veel scrupules volop aan meedoen. Kamervragen over de negatieve gevolgen van technologie komen vaak uit de linkse hoek. Een uitzondering is volgens Nederveen techniekfilosoof Egbert Schuurman, die de afgelopen decennia waarschuwde voor de gevolgen van de technische vooruitgang. Volgens de fysicus zijn christenen „het laatste decennium te veel doorgeslagen naar acceptatie.”

Verwonderlijk is dat niet, als je de mening van theoloog en politicus Abraham Kuyper (1837-1920) hoort. Kuyper zag wetenschap en technologie als een uitwerking van de opdracht die God bij de schepping gaf om de aarde te ontwikkelen. Hij had daarom geen fundamentele bezwaren tegen de moderne vooruitgang. Zijn instelling was anders dan die van tijdgenoten die bijvoorbeeld bezwaar maakten tegen de stoomtrein en het vliegtuig. Veel Nederlandse christenen hebben Kuypers openheid overgenomen.

Ondanks zijn positieve insteek was ook Kuyper zich ervan bewust dat technologie nadelig kon uitpakken. Hij verwachtte zelfs dat de menselijke vooruitgang aan het einde van de twintigste eeuw een antichristelijke richting zou inslaan. De Bruijne werpt in een door hem geschreven column de vraag op of je kunstmatige intelligentie in dat licht moet zien. Zelf aarzelt hij nog om een definitief antwoord te geven. „Ik denk dat wanneer je gaat sleutelen aan de vermogens van onze geest, je misschien een deur opent die je niet meer kunt sluiten, doordat de grens tussen natuur en materie vervaagt. Bouwen en bewaren komen zo met elkaar in conflict.”

De Bruijne vreest dat de mens zichzelf op deze manier ook overschat. „Was er geen zonde, dan zou ik zeggen: we kunnen dit aan. Maar je weet niet welke kant het opgaat. Je moet als mens niet voor God willen spelen, door robots te scheppen die nauwelijks van mensen zijn te onderscheiden.” Dus zul je volgens de theoloog als christen moeten nadenken of er een moment komt waarop je niet langer kunt meedoen. Dat de technologie dan voortschrijdt en je de aansluiting kwijtraakt, moet je in dat geval voor lief nemen. „Dat hoort bij de vreemdelingschap van een christen op deze aarde.”

Nederveen begrijpt de gedachtegang van De Bruijne, maar denkt dat het lastig blijft om als mens te beoordelen wanneer je moet uitstappen. Want de technologie is zozeer onderdeel van het leven dat je er als mens verweven mee bent. Je merkt niet eens meer hoe vaak je een computer gebruikt bijvoorbeeld. „Je kunt je dus niet als autonome mens isoleren van de technologie en zeggen: ik stap uit.” Toch betekent dit volgens de fysicus niet dat je daarom als christen werkeloos kunt toezien. Hij pleit voor een houding waarbij je een positie zoekt tussen afwijzing en acceptatie en beroept zich daarbij op twee anglicaanse theologen.

Wat je kunt doen

Aan Brian Brock ontleent hij de term ”microresistance”, klein verzet. Brock doelt op een houding waarbij je af en toe breekt met bestaande gewoonten door bijvoorbeeld geen Facebook te nemen of niet te kiezen voor een prenatale test. Je verandert er de maatschappij niet mee, maar het geeft je wel de gelegenheid te ervaren waar technologie dwingt en dringt.

Samuel Wells bracht Nederveen op het idee van ”overaccepting”, meer dan accepteren. Hij legt dit uit in een heel mooi voorbeeld. „Stel, een pianist is klaar voor een concert maar op het moment dat hij wil beginnen, kruipt er een meisje achter de piano. Wat ze speelt, klinkt nergens naar; de pianist kan dat accepteren en vertrekken of hij haalt haar van achter de piano. Maar in plaats daarvan gaat hij naast haar zitten en verweeft zijn spel met dat van haar.”

Het voordeel is volgens Nederveen dat je niet hoeft te beslissen of iets goed of fout is, en dat je je wel verdiept in alle argumenten. „Ik was onlangs betrokken bij een cursus over machine learning, zelflerende computers die vele malen slimmer zijn dan mensen. Dan kun je wel direct zeggen: dat kan niet, zoiets gaat voor een christen te ver. Maar je kunt beter met studenten nadenken over de gevolgen als je enkel vanuit technologisch perspectief over kunstmatige intelligentie denkt.”