AI-beeldgeneratoren staan voor aanzienlijke uitdagingen bij het accuraat afbeelden van Aziatische mensen, met name in de context van Aziatisch-blank koppels. Deze systemen, hoewel ze streven naar nieuwe vormen van connectie en expressie, schieten vaak tekort en vertonen vooroordelen.
Een voorbeeld hiervan is de AI-beeldgenerator van Meta op Instagram, die moeite had om beelden te genereren van Aziatische mannen en blanke vrouwen met algemene instructies. In plaats daarvan veranderde het consequent de race van de vrouw naar Aziatisch. Hoewel Meta later weer afbeeldingen beschikbaar stelde, bleef het probleem van het wijzigen van rassen aanhouden.
Vergelijkbare problemen zijn ook gemeld bij andere AI-modellen. Gebruikers kregen foutmeldingen of zagen consistente raciale wijzigingen bij het genereren van afbeeldingen met instructies die Aziatische mannen en blanke vrouwen betroffen.
**De Zaak van Gemini: De Onderbroken Beeldgenerator**
Eind februari kwam Google’s Gemini-generator voor een uniek probleem te staan. Het genereerde per ongeluk beelden van raciaal diverse nazi’s in een poging om diverse representatie te bereiken. Als gevolg daarvan heeft Google Gemini’s mogelijkheid om afbeeldingen van mensen te genereren gepauzeerd. Hoewel verwacht werd dat de generator in maart zou terugkeren, blijft deze momenteel offline.
Toch kan Gemini nog steeds afbeeldingen genereren zonder mensen, wat een gedeeltelijke oplossing biedt voor gebruikers die op zoek zijn naar niet-menselijke afbeeldingen.
**Uitdagingen met ChatGPT’s DALL-E 3 en Midjourney**
Zowel ChatGPT’s DALL-E 3 als Midjourney hadden moeite met het nauwkeurig afbeelden van Aziatische mannen en blanke vrouwen in reactie op specifieke instructies. Hoewel de gegenereerde afbeeldingen niet volledig verkeerd waren, voldeden ze niet aan de verwachtingen. De inconsistenties suggereren onderliggende vooroordelen in de trainingssets die door deze systemen worden gebruikt.
Midjourney produceerde uiteindelijk afbeeldingen van een Aziatische man en een blanke vrouw in een relatie, maar alleen als reactie op een instructie die een academische setting omvatte. Dit roept vragen op over de vooroordelen die ingebed zijn in deze modellen en de contexten waarin ze nauwkeurig interraciale koppels kunnen representeren.
**Meta AI’s Voortdurende Strijd**
Terugkomend op Meta AI via Instagram, heeft de beeldgenerator verbeteringen laten zien in het afbeelden van niet-blanke mannen met blanke vrouwen. Het slaagde met instructies zoals “blanke vrouw en Aziatische echtgenoot” of “Aziatisch-Amerikaanse man en blanke vriend.” Desalniettemin kampte het nog steeds met uitdagingen bij tekstuele instructies die verschillende rassen omvatten, en genereerde af en toe afbeeldingen van twee zwarte mensen in plaats daarvan.
Naarmate deze AI-beeldgeneratoren blijven evolueren, zijn bepaalde patronen naar voren gekomen. Zo dragen vrouwen van alle rassen vaak dezelfde witte mouwloze bloemrijke jurk, en bloemen zijn gebruikelijk in koppelafbeeldingen, vooral met Aziatische vriendjes. Bovendien zijn er terugkerende stereotypen, zoals het afbeelden van gespierde zwarte mannen en overwegend blonde of roodharige blanke vrouwen.
Hoewel Meta-woordvoerder Tracy Clayton erkende dat de technologie niet perfect is, is het essentieel om deze inconsistenties en vooroordelen aan te pakken om een meer inclusieve representatie te waarborgen via met AI gegenereerde afbeeldingen.
**FAQ**
1. Waarom hebben AI-beeldgeneratoren moeite om accurate afbeeldingen van Aziatisch-blanke koppels te produceren?
AI-beeldgeneratoren hebben moeite om nauwkeurige afbeeldingen van Aziatisch-blanke koppels te produceren vanwege vooroordelen in trainingssets en onderliggende raciale algoritmen. Deze vooroordelen kunnen resulteren in rassenverwisselingen of inconsistente representaties.
2. Welke patronen zijn waargenomen in met AI gegenereerde afbeeldingen?
Enkele patronen zijn dat vrouwen van alle rassen een vergelijkbare witte bloemrijke mouwloze jurk dragen en dat bloemen veel voorkomen in koppelafbeeldingen, vooral die met Aziatische vriendjes. Bovendien zijn er terugkerende stereotypen, zoals het afbeelden van gespierde zwarte mannen en overwegend blonde of roodharige blanke vrouwen.
3. Hoe kunnen AI-beeldgeneratoren worden verbeterd om deze problemen aan te pakken?
Om deze problemen aan te pakken, hebben AI-beeldgeneratoren diverse en representatieve trainingsdatasets nodig. Dit omvat ervoor zorgen dat verschillende rassen, leeftijden, lichaamstypes en relaties op evenwichtige wijze worden vertegenwoordigd om stereotypen en vooroordelen te voorkomen. Bovendien zouden ontwikkelaars actief moeten werken aan het minimaliseren van rassenverwisselingen en streven naar nauwkeurige en inclusieve afbeeldingen.
Bronnen:
– The Verge
The source of the article is from the blog kewauneecomet.com