Niet eerder was het mogelijk om zo makkelijk een kwalitatief goede tekst te laten produceren door een systeem. Op sociale media passeerden talloze voorbeelden van columns, recepten, toespraken en zelfs preken, geschreven door ChatGPT. Intussen uitten scholen en universiteiten hun zorgen, omdat ook studenten de chatbot weten te vinden. Eindeloos broeden op de inleiding van een werkstuk is niet meer nodig; een simpele opdracht aan het programma volstaat.

Een belangrijke vraag bij dergelijke baanbrekende ontwikkelingen is in hoeverre deze het leven van mensen ingrijpend zullen veranderen, of –in het geval van kunstmatige intelligentie– misschien zelfs zullen overnemen. Bij een poging hier iets zinnigs over te zeggen, liggen zowel overschatting als onderschatting op de loer. Dat maakt bezinning, juist ook als het gaat over ethische vragen die aan deze ontwikkelingen verbonden zijn, lastig maar niet minder noodzakelijk.

Elders is al de vergelijking gemaakt tussen ChatGPT en de rekenmachine. Zoals die laatste een nuttig instrument is om moeilijke sommen tot een oplossing te brengen, zo is de chatbot niet meer dan een manier om een bruikbare tekst voort te brengen. Een hulpmiddel dat het leven een stukje makkelijker maakt. Dat klinkt aannemelijk in een wereld waarin processen op tal van plaatsen worden geautomatiseerd ten behoeve van meer efficiëntie en gebruiksgemak. Zo bezien hoeven we niet in paniek te raken van een slim systeem dat werk uit handen neemt.

Toch is dat in dit geval kortzichtig. Programma’s als ChatGPT zijn immers niet waardevrij. Dat de chatbot een bruikbare tekst weet te schrijven, kan alleen maar omdat het systeem put uit miljarden oudere teksten. De intelligentie doet in feite niets anders dan een nieuwe tekst voortbrengen, op basis van wat eerder al is geschreven. Het maakt dus nogal uit met welke teksten de chatbot is gevoed, maar ook welk wereldbeeld de menselijke makers van het programma hanteren en welke beperkende kaders ze hebben ingebouwd. Dat is op zijn minst medebepalend voor wat eruit komt.

Tegelijkertijd is het probleem niet alleen dat ChatGPT zijn eigen waarheid –of die van zijn makers– voortbrengt. Gevaarlijk is ook dat we straks niet meer in staat zullen zijn om nog te onderscheiden wát waar is. Zoals zoekresultaten van Google voor velen leidend zijn, zullen de teksten of beelden die dergelijke systemen ons voorschotelen al snel als feitelijk juist worden overgenomen. Kunstmatige intelligentie als het einde van alle tegenspraak. In een tijd waarin nepnieuws en desinformatie reeds ontwrichtend werken, is dat reden genoeg om uiterst voorzichtig te zijn.