De oproep voor een pauze komt van het Future of Life Institute, een instelling die zich bezighoudt met de risico’s van nieuwe technologieën en het voorkomen van rampen die daardoor veroorzaakt kunnen worden. Achter de organisatie zitten onder anderen Skype-oprichter Jaan Tallinn en Tesla-baas Elon Musk. Zij hebben de brief ook ondertekend, net als onderzoekers van veel Nederlandse universiteiten.

Bij kunstmatige intelligentie worden computersystemen ontwikkeld die dicht in de buurt van menselijke intelligentie komen. Ze kunnen dan bijvoorbeeld teksten schrijven die lijken alsof ze door een mens zijn geschreven. Concreet vragen de ondertekenaars aan ontwikkelaars van AI-systemen om zes maanden lang geen programma’s te bouwen die krachtiger zijn dan GPT 4. Dat is de nieuwste versie van het taalmodel van OpenAI, het bedrijf achter chatbot ChatGPT.

Onlangs was er ook kritiek op de oproep. Voormalig Google-topman Eric Schmidt betoogde dat een tijdelijke pauze in de ontwikkeling van kunstmatige intelligentie alleen maar een voordeel zou opleveren voor concurrenten in China. Volgens hem zou het beter zijn als technologiebedrijven samen gaan praten over een soort zelfregulering om de zorgen die er leven, weg te nemen.