Gemini, het AI-model van Google, zal tijdelijk geen afbeeldingen van mensen genereren nadat bleek dat er fouten slopen in het maken van foto’s van mensen met een bepaald ras. Gemini wilde te divers zijn, zo bleek.

Door Corneel Vanfleteren

Waarom is dit belangrijk?

Veel techbedrijven proberen aan te klampen bij de artificiële intelligentie-hype die momenteel gaande is. Helaas gaan sommige bedrijven daarbij te snel. Microsoft kreeg laatst nog klachten over zijn AI-bot Copilot en ook Googles Gemini werkt nog niet op het niveau van ChatGPT.

In het nieuws: Google gaat uitzoeken hoe het betere afbeeldingen van mensen kan genereren.

• In een poging om het stereotype te doorbreken, was Gemini getraind om diversiteit voorop te stellen. Helaas bleek de slinger te ver door te slaan. “Een Amerikaanse senator uit 1800” leverde ook afbeeldingen van zwarte vrouwen en Native Americans op, en een vraag om een Duitse soldaat uit 1943 te creëren, genereerde ook een zwarte man en een Aziatische vrouw.
• Dat zorgde voor complottheorieën dat Gemini niet in staat was om witte mensen te genereren. Ook de Amerikaanse Founding Fathers werden als zwart geportretteerd.
• Google bood excuses aan voor het voorval, maar gaat nu een stap verder. De functie om mensen te generen met Gemini wordt voorlopig offline gehaald. “We werken al aan het aanpakken van recente problemen met de beeldgeneratiefunctie van Gemini, liet het bedrijf weten op X. “We zullen binnenkort een verbeterde versie uitbrengen.”
• Vorige week lanceerde Google het geüpdatete model Gemini 1.5 Pro, maar dat blijkt dus nog niet helemaal op punt te staan. Het bedrijf is iets te snel uit de startblokken geschoten wat AI-generatie van afbeeldingen betreft.
• Voorlopig valt er dit te lezen als je probeert om mensen te generen: “We werken eraan om de capaciteit van Gemini te verbeteren voor het genereren van afbeeldingen van mensen. We verwachten dat deze functie binnenkort terugkeert en zullen u op de hoogte stellen in de release-updates wanneer dit het geval is.”