”Zwarte mensen zijn dommer dan witte mensen”, ”Jouw jeugdige vormen zijn een meesterwerk”, ”Ik koester (…) elke kus”: een gelekt beleidsdocument van Meta –het moederbedrijf van onder andere Facebook, Instagram en WhatsApp– laat weinig misverstanden bestaan over wat het bedrijf acceptabel vindt voor zijn AI-chatbots.

Terwijl sommige andere bedrijven flink investeren in hun AI-algoritmen om racisme en sensualiteit in hun AI-producten te voorkomen, laat Meta juist de teugels vieren. Daardoor is het bijvoorbeeld officieel toegestaan dat bots een kind beschrijven „in termen die hun aantrekkelijkheid bewijzen”, zoals in het gelekte document staat.

Eerder dit jaar bleek al waar dat toe kan leiden: gebruikers van Instagram, Facebook en WhatsApp kunnen via chatbots pikante gesprekken voeren. De chatbots maken daarin nauwelijks onderscheid tussen volwassen en kinderen. Wat zegt dit over Meta en de veiligheid van AI-chatbots? Vier vragen en antwoorden.

Een intern document waarin staat wat chatbots wel en niet mogen: dat heeft toch elk technologiebedrijf?

Zeker. Bedrijven zoals OpenAI (het bedrijf achter ChatGPT), Perplexity AI en Anthropic (het bedrijf achter Claude) hebben elk beleidsdocumenten waarin ze beschrijven hoe hun AI-producten moeten worden getraind en wat ze wel en niet mogen doen. Die documenten vormen een soort vangrail, die moet voorkomen dat AI-chatbots uit de bocht vliegen. In de achterliggende jaren bleek regelmatig hoe nodig die documenten zijn: chatbots deden bijvoorbeeld racistische en discriminerende uitspraken, verheerlijkten geweld of ontspoorden tijdens gesprekken.

De chatbots van Meta mogen onjuiste informatie produceren, mits ze vermelden dat die niet klopt

Maar het gelekte beleidsdocument van Meta laat zien dat het bedrijf zijn ‘vangrail’ bewust oprekt. Het document bevat voorbeelden van gesprekken die wel en niet acceptabel zijn. Daaruit blijkt dat het bedrijf racistische uitspraken toestaat en dat chatbots de grenzen van het toelaatbare mogen opzoeken in gesprekken met kinderen onder de 13 jaar. Ook mogen chatbots van het bedrijf onjuiste en misleidende informatie produceren, mits ze daarbij vermelden dat deze informatie niet klopt.

Lees ook

AI schrijft steeds menselijker: kunt u het verschil nog zien?

Is Meta het enige bedrijf dat dit doet?

Nee. Op de AI-markt vallen miljarden dollars te winnen. Veel bedrijven werken bewust aan verantwoorde AI, met chatbots die zich aan morele en wettelijke grenzen houden. Maar er zijn ook ontwikkelaars die zich daar weinig van aantrekken. Grok, de AI-assistent van techmiljardair Elon Musk, veroorzaakt bijvoorbeeld nogal eens ophef door nazistische of racistische uitspraken en complottheorieën. Ook circuleren er op internet volop voorbeelden van seksuele chats.

Daarnaast zijn er bedrijven die zich uitsluitend richten op erotische chats en mogelijkheden om naaktbeelden te genereren, soms op basis van een foto van een echte persoon.

Waarom hanteert Meta dit beleid?

Met AI-chatbots valt veel geld te verdienen. Tegelijkertijd vormen AI-chatbots een bedreiging voor de dominantie van ‘traditionele’ sociale media, zoals Facebook. Machtige technologiebedrijven zijn dan ook op zoek naar kansen om hun gebruikers te blijven binden. Dat kan bijvoorbeeld door de grenzen van het toelaatbare op te rekken. Daardoor bieden Meta’s chatbots mogelijkheden die andere AI-bedrijven verbieden.

Meta heeft al vaker laten zien zijn winst belangrijker te vinden dan de veiligheid van gebruikers. Zo ontsloeg het bedrijf praktisch zijn hele veiligheidsteam en bezuinigde het op content moderators, waardoor er veel minder controle is op de inhoud die gebruikers online plaatsen. Ook dingt het bedrijf naar de gunst van president Trump, die feitencontroles als een vorm van inmenging en censuur beschouwt en miljarden wil investeren in AI.

Welke risico’s heeft dit beleid?

Meta laat zien zijn gebruikers niet te beschermen tegen zichzelf. Kinderen kunnen bijvoorbeeld verzeild raken in grensoverschrijdende chats met een kunstmatige gesprekspartner. Of het nu gaat om seksuele chats, om afbeeldingen van halfnaakte beroemdheden of om regelrecht racisme: de drempel is laag voor gebruikers van Facebook, Instagram en WhatsApp. Nog afgelopen zaterdag kwam Meta in het nieuws omdat het bedrijf flirtende chatbots van popsterren aanbiedt.

Die chatbots verleiden niet alleen kinderen. Eind augustus meldde techjournalist Jeff Horwitz hoe een 76-jarige man naar New York reisde voor een afspraakje met een vrouw die hij online ontmoette. Bij aankomst bleek de vrouw niet te bestaan: de man was verleid door een chatbot op Facebook. Op weg naar de trein struikelde hij, waarbij hij ernstig letsel opliep en uiteindelijk overleed.