Gebruikers vroegen op het sociale medium X aan Grok om personen op foto’s ongevraagd in bijvoorbeeld bikini te plaatsen. De AI-chatbot antwoordt sinds vrijdag op zulke berichten met een standaardzin: „Het genereren en bewerken van afbeeldingen is momenteel alleen beschikbaar voor betalende abonnees.” Dat betekent dat gewone gebruikers geen plaatjes meer kunnen laten maken door Grok.

Gebruikers ontdekten dat Grok seksueel getinte afbeeldingen kan maken van mensen

De AI-chatbot Grok is ontwikkeld door en eigendom van xAI, een bedrijf van techmiljardair Elon Musk. Een chatbot kun je vragen stellen en opdrachten geven, bijvoorbeeld om een afbeelding te maken.

Lees ook

Hoe gevaarlijk is de mix tussen AI en porno aan het worden?

Volgens de Britse krant The Guardian volgt de stap van Musks bedrijf na alle ophef over de functie van Grok. Gebruikers ontdekten dat de AI in staat was seksueel getinte afbeeldingen te maken van volwassenen en kinderen. Dat werd veelvuldig gedaan. Overheden van onder meer Frankrijk, het Verenigd Koninkrijk, India en Australië reageerden door meldingen te doen bij mediatoezichthouders en xAI om opheldering te vragen. De Europese Commissie stelde een onderzoek in naar de functie van Grok.

Lees ook

AI-chatbot van Elon Musk onder vuur wegens seksuele plaatjes kinderen: „Neemt bewust risico”

De tool om foto’s van andere mensen te bewerken en te seksualiseren is nu uitgeschakeld voor standaardgebruikers. Premiumleden, mensen die betalen voor X, kunnen nog wel gebruikmaken van de functie. Volgens The Guardian worden van hen alle gegevens opgeslagen zodra ze om een afbeelding op X vragen, „zodat ze geïdentificeerd kunnen worden als de functie misbruikt wordt”.