Google Gemini, tidigare känt som Google Bard, är ett kraftfullt AI-verktyg som tillåter användare att ansluta och kommunicera. Nyligen har dock funktionen för bildgenerering i Gemini kommit under granskning. Användare på sociala medier har flaggat att Geminis bildgenerator producerar felaktiga historiska bilder, ofta ersätter vita människor med bilder av svarta, ursprungsbefolkningar och asiatiska individer. Som svar på dessa bekymmer har Google beslutat att tillfälligt pausa funktionen för bildgenerering i Gemini.
Problemet med Geminis bildgenerering kretsar kring dess oavsiktliga skapande av felaktiga avbildningar. När ombedd att visa en bild av en vit person vägrar Gemini och hävdar att det ”förstärker skadliga stereotyper och generaliseringar om människor baserat på deras ras.” Istället erbjuder den att visa bilder som hyllar mångfalden och prestationerna hos svarta människor, genom att ge en lista över betydelsefulla svarta personer genom historien.
Google förstår vikten av korrekt representation, särskilt med tanke på den historiska övervikt av vita individer och deras prestationer. Genom att fokusera enbart på vita individer har andra grupper marginaliserats eller förbisetts. Gemini strävar efter att åtgärda detta problem och förbättra sina avbildningar för att ge en mer balanserad och inkluderande representation av olika rasbakgrunder.
Geminis AI-funktioner är utformade för att tillgodose en global användarbas genom att generera ett brett utbud av bilder för olika behov. Dock brister Gemini i detta fall och missar målet. Googles Senior Director of Product Management, Jack Krawczyk, erkänner att förbättringar behövs för att säkerställa noggrannheten och rättvisan i Geminis bildgenereringsfunktion.
I takt med att AI-teknologin fortsätter att utvecklas är det avgörande för företag som Google att prioritera inkludering och mångfald. Den tillfälliga pausen i Geminis bildgenereringsfunktion visar Googles engagemang för att snabbt rätta till problemet samtidigt som man strävar efter att erbjuda en förbättrad användarupplevelse. Genom att ta itu med dessa utmaningar kan Google fortsätta att erbjuda innovativa AI-verktyg som främjar förståelse och representation för alla.
The source of the article is from the blog macnifico.pt