Zo kwamen er bijvoorbeeld afbeeldingen tevoorschijn van historische personen die ineens een andere huidskleur hadden, of zwarte mensen in nazi-uniformen. Google-topman Sundar Pichai heeft de blunders destijds in scherpe bewoordingen veroordeeld. De fouten die met de AI-technologie zijn gemaakt, waren volgens hem „volkomen onaanvaardbaar”.

Bedrijven en Engelstalige, betalende gebruikers van Gemini kunnen ergens de komende dagen weer gebruikmaken van de tool. „We hebben gewerkt aan technische verbeteringen van het product”, zegt Dave Citron, senior directeur bij Google, in een blogpost. „Natuurlijk zal niet elke afbeelding die Gemini maakt perfect zijn, maar we zullen blijven luisteren naar de feedback van gebruikers.”

Gebruikers kunnen geen fotorealistische beelden of afbeeldingen met bekende personen, minderjarigen of „overdreven bloederige, gewelddadige of seksuele scènes” maken, voegde Citron daaraan toe. Het is de bedoeling dat de functie geleidelijk beschikbaar komt voor meer gebruikers.