Nicholas Carr over de gevaren van automatisering

Snelheid en efficiëntie zijn de grote doelen van automatisering. Computers en software helpen ons lastig werk te vereenvoudigen. Er ligt een belofte in van een makkelijker en comfortabeler leven. Maar juist daarin schuilt een van de grote gevaren van automatisering, betoogt Carr in ”De glazen kooi”. Het verlangen om verlost te worden van ons dagelijkse gesloof is namelijk volkomen misplaatst.

Wil een mens geestelijk en lichamelijk floreren, dan moet hij worden uitgedaagd. Werk is bij uitstek een omgeving waarin dat gebeurt. Maar als automatisering ertoe leidt dat we ons minder bezighouden met iets wat ons uitdaagt, wat ons het tevreden gevoel geeft dat we iets hebben bereikt, dan, schrijft Carr, „bevrijdt automatisering ons maar al te vaak van datgene wat ons een vrij gevoel geeft.”

Onderbouwd met wetenschappelijk onderzoek somt Carr vervolgens nog meer gevaren van automatisering op. Een van de treffendste voorbeelden is de ontwikkeling van de luchtvaart. Moderne passagiersvliegtuigen zijn vliegende computers geworden. Kort door de bocht gezegd zit de piloot alleen nog bij de start en de landing aan de knuppel; voor de rest houden geavanceerde systemen het toestel in bedwang.

Die ontwikkeling heeft, dat geeft Carr ronduit toe, geleid tot een veel veiliger luchtverkeer. Maar als het dan toch mis gaat, zijn de rapen gaar. De verregaande automatisering van de cockpit heeft er in concrete gevallen toe geleid dat de piloten te veel vertrouwden op de systemen. Van werkelijke controle en een actieve rol in de besturing was geen sprake meer. Een uitzonderlijke situatie kan zo leiden tot een dodelijke kettingreactie, waarbij de piloot fout op fout stapelt omdat hij overweldigd wordt door alle informatie die de systemen uitspugen. In plaats van hem werk uit handen te nemen, dwingen de systemen hem juist tot allerlei extra taken. De automatiseringsparadox ten top.

Te ver

Carr schrijft overigens nergens dat automatisering verkéérd is. Het heeft, samen met de mechanisatie, zonder twijfel bijgedragen aan een verbetering van onze omstandigheden. Het punt is, meent hij, dat we niet weten wanneer het genóég is, laat staan wanneer automatisering te ver gaat.

Wordt automatisering te ver doorgevoerd, dan veranderen we van handelende in waarnemende personen. Dat gaat ten koste van het ”generatieve effect”, laat Carr zien. Hij put hierbij uit talloze wetenschappelijke experimenten die aantonen dat een duidelijke geestelijke inspanning –het genereren– leidt tot een beter begrip. We leren en herinneren meer.

Als software onze betrokkenheid bij ons werk beperkt, ons in een passieve rol dwingt als waarnemer of bewaker, dan omzeilen we daarmee volgens de auteur „de diepe cognitieve processen die ten grondslag liggen aan het generatieve effect.”

Aardig is dat Carr hier een studie van de Utrechtse hoogleraar Christof van Nimwegen aanhaalt. Die ontdekte al in 2004 dat het automatiseren van cognitieve taken, zoals probleemoplossing, een negatieve invloed heeft op ons geestelijke vermogen om informatie om te zetten in kennis.

Het bevestigt wat we allemaal wel kennen als het Google-effect. Bij zoekopdrachten vertrouwen we immers blindelings op de algoritmes van Google, maar tegelijk steeds minder op ons eigen, gezonde verstand. We zetten onze geest minder snel aan het werk om dingen te genereren. Daardoor leren we minder en zijn we uiteindelijk tot minder in staat. In plaats van het generatieve effect te bevorderen, zorgt automatisering zo juist voor degeneratie.

Begrip

Computers, slimme algoritmes en robots zijn uiteindelijk zielloos. Het ontbreekt hen aan gezond verstand. Wat ons mensen een niet in te halen voorsprong geeft, wat ons wérkelijk slim maakt, is ons vermogen om dingen te begrijpen, om kennis die we opdoen uit observatie en ervaring –kortom, uit het léven– te verweven tot een rijk en vloeiend begrip van de wereld.

Juist in een tijd waarin de algoritmes van Google, Facebook en Amazon zich allerwegen en onophoudelijk aan ons opdringen, met de schone belofte ons leven makkelijker te maken, is het nodig dat we kritisch nadenken over de gevolgen van automatisering. Ons verlangen om de wereld te bevatten maakt ons tot wie we zijn: mens. Wat nu als algoritmes ons dat verlangen ontnemen? Mensen die niet meer in staat zijn kennis te vermeerderen en zich te verwonderen, zijn die niet gewoon een beetje minder mens?

Carr omschrijft dit als „een van de grote ironieën van deze tijd.” Juist nu wetenschappers meer en meer te weten komen over de essentiële rol die lichamelijk handelen en zintuiglijke perceptie spelen bij de ontwikkeling van ons denken, onze herinneringen en onze vaardigheden, brengen we steeds minder tijd door met handelingen in de wereld en leven en werken we steeds meer via het abstracte medium van het computerscherm. „We zijn onszelf van ons lichaam aan het ontdoen en leggen zintuigelijke beperkingen op aan ons bestaan.”

Het gaat Carr, zoals we hierboven schreven, om de balans. Is automatisering mensgericht, en dus ondersteunend? Of is ze louter technologiegericht? Dat laatste is gevaarlijk, en vormt de spits van Carrs bezwaren. Immers, naarmate we meer gaan vertrouwen op software en algoritmes, zijn we minder goed in staat het zonder hun hulp te redden. Daardoor wordt software nóg onmisbaarder. Automatisering leidt daarmee onherroepelijk tot meer automatisering.

Naadloze ervaring

We regelen ons leven in toenemende mate via het beeldscherm. Onze samenleving past als vanzelf haar gewoonten en procedures aan die van de computer aan. En wat we niet met software voor elkaar kunnen krijgen, begint overbodig te lijken.

Grote technologiebedrijven spelen hier als geen ander op in. Ze beloven ons een ”naadloze ervaring”, waarbij we nauwelijks nog in de gaten hebben dat we technologie gebruiken. Intussen varen we meer en meer blind op de allesbepalende algoritmes. Hier dringt zich de vraag op of de software ons helpt óf ons bestuurt. De belangen van deze bedrijven moeten we niet verwarren met onze eigen belangen, waarschuwt Carr. En als we afhankelijk worden van onze ”technologische slaven”, dan veranderen we uiteindelijk zélf in slaven.

Het duurt aanvankelijk even voordat duidelijk wordt welke richting Carr met zijn nieuwe boek inslaat. Het onderwerp heeft beslist raakvlakken met de invloed van internet, iets wat hij eerder met grote overtuiging beschreef in zijn succesvolle boek “Het ondiepe”. Herhaling van zetten ligt op de loer. En Carr haalt meer wetenschappelijke bronnen aan dan er bladzijden in het boek zijn, waardoor verzadiging dreigt.

Maar tegelijkertijd onderstreept al dat onderzoek Carrs meest wezenlijke punt: geloven in technologie als een bevrijdende kracht is verleidelijk, maar gevaarlijk. De belofte van een Utopia, waarin we dankzij automatisering steeds meer tijd krijgen om alleen nog de dingen te doen die we leuk vinden, is loos.

In zijn slothoofdstuk citeert Carr de Amerikaanse dichter Robert Frost: „De werkelijkheid is de zoetste droom die de arbeid kent.” Arbeid, betoogt Carr, is niet alleen een manier om dingen gedaan te krijgen. „Het is een vorm van contemplatie, een manier om oog in oog te staan met de wereld, in plaats van haar door een ruit te bekijken. Arbeid bindt ons aan de aarde, zoals liefde ons aan elkaar bindt.”

Verlangen

Arbeid als de waarheid dus. Werk maakt ons tot wie we zijn. Dat Carr hiermee voorbijgaat aan de zondeval, die arbeid in een totaal ander perspectief plaatste, is jammer. Toch prikkelt Carr tot nadenken over een wel heel existentiële vraag: „Automatisering maakt het makkelijker om te krijgen wat we verlangen, maar ontneemt de noodzaak om te leren kennen. Wordt wie wij zijn bepaald door wat we weten, of door wat we verlangen?” Het reële risico dat automatisering ons gemakzuchtige, luie en onachtzame mensen maakt, verplicht ons die vraag serieus te nemen.

Boekgegevens

De glazen kooi. Wat automatisering met ons doet, Nicholas Carr; uitg. Maven Publishing, Amsterdam, 2014; ISBN 978 94 91 84534 5; 335 blz.; € 22.

Nicholas Carr over de gevaren van automatisering

Cultuur & boeken

RD.nl in uw mailbox?