Enligt TT försöker teknikjätten komma tillrätta med ”mångfaldsproblematik” i bildgenereringen – att AI-verktyg tenderar att generera stereotypa bilder.

Men det har lett till problem med bilder i en historisk kontext. När användare exempelvis bad Gemini att skapa bilder på tyska soldater under andra världskriget så skapades sådana som asiatiska kvinnor och svarta, enligt The Verge.

Vidare har tjänsten genererat bilder på svarta vikingar, en kvinnlig påve med asiatiskt påbrå och indianer bland de amerikanska grundlagsfäderna, rapporterar New York Post.

Användare på sociala medier har sågat tjänsten och kallat den för ”absurt woke” och ”oanvändbar” efter att förfrågningar om att generera representativa bilder resulterade i historierevisionistiska sådana.

Tjänsten kritiseras också för att inte vilja visa vita personer. När användare bad den att generera bilder på kinesiska eller svarta par så gjorde den det. Men när den ombads att visa bilder på vita par så vägrade den, enligt New York Times.

X-ägaren Elon Musk är en av dem som kommenterar Googles AI-tjänst. I ett inlägg kallar han deras programmering för ”rasistisk” och ”anti-civilisatorisk”.

I’m glad that Google overplayed their hand with their AI image generation, as it made their insane racist, anti-civilizational programming clear to all

— Elon Musk (@elonmusk) February 23, 2024

Produktchef twittrade om ”vita privilegier”

Eftersom Google inte har publicerat de parametrar som avgör Geminis beteende är det svårt att fastställa varför AI-tjänsten genererar inkorrekta bilder av historiska figurer och händelser.

Enligt Fabio Motoki, universitetslektor vid University of East Anglia i Storbritannien, kan det hela ha att göra med hur Google väljer att utforma inlärningen till AI-tjänsten där ett slags belöningssystem tar form utifrån utvecklarnas preferenser.

– Beroende på vilka personer som Google rekryterar eller vilka instruktioner Google ger dem, så kan det leda till detta problem, säger han till New York Post.

Motoki har tidigare medförfattat en rapport om AI-tjänsten ChatGPT:s vänsterlutning.

I samband med att bildgeneringen har uppmärksammats har även Jack Krawczyks, produktchefen för Gemini, tidigare tweets uppdagats i sociala medier. Krawczyk har nu gjort sitt X-konto privat, men på X har skärmdumpar spridits där han tidigare har gett uttryck för identitetspolitiska vänsteråsikter. Bland annat ska han ha twittrat om att ”vita privilegier” är på riktigt (”fucking real”). De flesta av utspelen gjordes innan han anställdes av Google 2020, rapporterar New York Post.

Pausar tjänsten

Efter att kritiken har växt mot teknikjätten och AI-tjänsten har gjorts till åtlöje på sociala medier meddelar Google att man pausar bildgenereringen.

”Vi jobbar på att förbättra den här typen av skildringar omedelbart. Geminis AI-bilder genererar en stor bredd av människor. Och det är generellt en bra sak eftersom folk världen över använder sig av den. Men här missar den målet”, skriver Google i ett uttalande.

Google räknar med att återstarta tjänsten inom kort.

Läs även: Disneys hint: Go woke, go broke