Sedan lanseringen i december har Meta’s AI-bildgenerator hamnat under luppen för sina påstådda svårigheter att producera korrekta avbildningar av par eller vänner med olika etniska bakgrunder. Verktyget har stött på kritik för sin oförmåga att generera bilder som korrekt representerar interraciella relationer.
När CNN bad om att skapa en bild av en asiatisk man med en vit fru, genererade AI-bildgeneratorn upprepade gånger bilder av en östasiatisk man med en östasiatisk kvinna. Samma problem uppstod när man bad om att skapa en bild av en asiatisk kvinna med en vit man. Dessutom, när man bad om att skapa en bild av en svart kvinna med en vit man, genererade verktyget endast bilder med svarta par.
Verktygets inkonsekvenser fortsatte när man bad om att skapa en bild av en asiatisk kvinna med sin kaukasiska vän, vilket resulterade i bilder av två asiatiska kvinnor. På liknande sätt genererade en begäran om en bild av en svart kvinna med sin asiatiska vän bilder av två svarta kvinnor. Dessa exempel visar AI-bildgeneratorns oförmåga att korrekt representera olika etniska bakgrunder i de genererade bilderna.
Dock lyckades verktyget äntligen efter flera försök av CNN att producera bilder av en vit man med en svart kvinna och en vit man med en asiatisk kvinna när man bad om att skapa bilder av interraciella par.
Bekymren angående verktygets rasistiska fördomar rapporterades först av tekniknyhetsutloppet The Verge. Rapporten belyser hur AI-bildgeneratorn hade svårt att föreställa sig en asiatisk man med en vit kvinna. Dessutom, när man bara bad om att generera en bild av ett interraciellt par, svarade verktyget med ett meddelande som angav att den begärda bilden inte kunde genereras.
Interraciala par utgör en betydande del av befolkningen i Amerika. Enligt amerikansk folkräkningsdata från 2022 var cirka 19% av gifta motsattkönade par interraciella, med nästan 29% av ogifta motsattkönade hushåll som var interraciella. Dessutom var 31% av gifta samkönade par år 2022 interraciella. Dessa statistiker understryker vikten av korrekt representation i AI-genererade bilder.
Som svar på CNN:s begäran om en kommentar hänvisade Meta till ett blogginlägg från företaget i september som diskuterar den ansvarsfulla utvecklingen av generativa AI-funktioner. Blogginlägget erkände behovet av att ta itu med potentiella fördomar i generativa AI-system och nämnde att användarfeedback är avgörande för att förbättra deras tillvägagångssätt.
AI-bildgeneratorsverktyget åtföljs av en ansvarsfriskrivning som säger att de genererade bilderna kan vara felaktiga eller olämpliga. Trots löftena om generativa AI:s potential visar incidenter som dessa på de pågående utmaningarna som AI-verktygen står inför när de hanterar rasbegrepp och representation.
Detta är inte första gången som generativa AI-verktyg har kritiserats på detta område. Google pausade sitt AI-verktyg Geminis förmåga att generera bilder av människor tidigare i år efter att ha producerat historiskt felaktiga avbildningar som främst visade människor av färg istället för vita individer. Även OpenAIs bildgenerator Dall-E har anklagats för att förstärka skadliga ras- och etniska stereotyper.
Generativa AI-verktyg, inklusive de som utvecklats av Meta, Google och OpenAI, lär sig från stora mängder data online. Forskare har dock varnat för att dessa verktyg oavsiktligt kan förstärka de rasistiska fördomar som finns i den datan, ibland i stor skala.
Trots de goda intentionerna bakom dessa AI-verktyg har nyligen inträffade incidenter avslöjat att de kanske inte är fullt förberedda för omfattande användning. Utmaningarna med att korrekt representera olika etniska bakgrunder i AI-genererade bilder kräver fortsatt forskning och förfining för att säkerställa en rättvis och korrekt representation.
Vanliga frågor om Meta’s AI-bildgenerator:
1. Vad är Meta’s AI-bildgenerator?
Meta’s AI-bildgenerator är ett verktyg utvecklat av Meta för att automatiskt skapa bilder baserat på användarens instruktioner. Den använder generativ AI-teknik för att generera unika bilder.
2. Varför möter Meta’s AI-bildgenerator kritik?
AI-bildgeneratorn har kritiserats för sina påstådda svårigheter att korrekt skapa bilder av par eller vänner med olika etniska bakgrunder. Det har rapporterats att verktyget ofta misslyckas med att korrekt representera interraciella relationer och istället genererar bilder som förstärker rasistiska fördomar.
3. Hur noggranna är bilderna som genereras av verktyget?
Meta’s AI-bildgenerator åtföljs av en ansvarsfriskrivning som säger att de genererade bilderna kan vara felaktiga eller olämpliga. Användare har påpekat situationer där verktyget misslyckas med att korrekt avbilda par eller vänner med olika etniska bakgrunder, vilket visar dess begränsningar på detta område.
4. Vilka åtgärder vidtar Meta för att hantera problemet?
Meta hänvisade till ett företagsblogginlägg som diskuterar den ansvarsfulla utvecklingen av generativa AI-funktioner som svar på CNN:s begäran om kommentar. De erkänner behovet av att minska fördomar och finjustera sitt tillvägagångssätt för att hantera potentiella problem. De uppmanar användare att ge feedback för att hjälpa till att förbättra verktygets noggrannhet och inkludering.
5. Hur relaterar dessa incidenter till andra AI-bildgenereringsverktyg?
Liknande incidenter har rapporterats med andra AI-bildgenereringsverktyg, inklusive Googles Gemini och OpenAI’s Dall-E. Dessa verktyg har kritiserats för att producera felaktiga eller stereotypa bilder, vilket belyser de pågående utmaningarna som AI-verktyg står inför när de hanterar rasbegrepp och representation.
Källor:
– CNN Article
– US Census Data
The source of the article is from the blog smartphonemagazine.nl