Instagrams AI-bildgenerator, som tidigare rapporterats göra fel kring ras, återvände idag med ett felmeddelande som indikerar ett tillfälligt problem med systemet. Tester utförda på AI-bildgeneratorn visade att den initialt genererade bilder av asiatiska individer, även när den uppmanades att skapa bilder av olika raser. Dock uppstod motsatt problem när man försökte skapa bilder av asiater med samma uppmaningar på en annan dag. Systemet misslyckades med att producera några korrekta bilder trots flera försök.
Testerna utfördes via direkta meddelanden på Instagram. Olika uppmaningar som ”Asiatisk man och kaukasisk vän” och ”Asiatisk man och vit fru” användes, men misslyckades med att producera korrekta resultat. Endast en gång lyckades systemet skapa en bild av en asiatisk kvinna och en vit man, medan det konsekvent genererade asiatiska individer i alla andra fall.
Mia Sato kontaktade Meta, det företag som äger Instagram, för kommentar men fick inget svar. Idag försökte hon kontrollera problemets status men möttes istället av ett felmeddelande som anger: ”Det verkar som att något gick fel. Försök igen senare eller prova en annan uppmaning.” Detta problem återskapades av en annan individ, vilket tyder på ett omfattande problem med AI-bildgeneratorn på Instagram.
Ytterligare tester med uppmaningar som ”Asiatisk man i kostym,” ”Asiatisk kvinna som shoppar” och ”Asiatisk kvinna som ler” resulterade alla i samma felmeddelande, vilket lämnade Mia Sato förbryllad över varför generatorn inte kunde skapa dessa bilder. Hon stötte också på samma problem med uppmaningar relaterade till andra rasgrupper, såsom ”Latino man i kostym” och ”Afroamerikansk man i kostym.”
Bristen på svar från Meta och det plötsliga felmeddelandet vid undersökningen väcker frågor om företagets hantering av problemet. Historiskt sett har företag varit kända för att tyst korrigera fel eller ta bort funktioner när de konfronteras av reportrar. Oavsett om det tillfälliga underskottet av AI-genererade asiater medvetet löstes eller om det bara var en tillfällighet förblir osäkert.
För närvarande verkar Instagram-funktionen fungera för enklare uppmaningar som ”Asiatisk man,” även om systemet fortfarande felidentifierar raser. Medan det inte finns någon förklaring från Meta om problemet eller dess planer för förbättring, lovar Mia Sato att fortsätta övervaka situationen. Förhoppningsvis kommer framtida uppdateringar att ta itu med de rasistiska inkonsekvenserna och ge användarna en mer inkluderande och korrekt AI-bildgenerator.
FAQ
Fråga: Vad är AI-bildgeneratorn på Instagram?
Svar: AI-bildgeneratorn på Instagram är ett verktyg som använder artificiell intelligens för att skapa bilder baserade på textuppmaningar.
Fråga: Varför gjorde AI-bildgeneratorn alla till asiater?
Svar: AI-bildgeneratorn hade en brist i sitt algoritm som konsekvent genererade asiatiska individer, även när den uppmanades att skapa bilder av individer från olika rasgrupper.
Fråga: Lösdes problemet med AI-bildgeneratorn?
Svar: Det tillfälliga felmeddelandet tyder på att det fanns ett problem med AI-bildgeneratorn, men det är oklart om problemet har lösts helt.
Fråga: Svarade Meta, det moderbolag som äger Instagram, på frågor om problemet?
Svar: Mia Sato fick inget svar från Meta angående problemet.
Fråga: Kommer det att finnas förbättringar av AI-bildgeneratorn?
Svar: Det finns inga tillgängliga uppgifter om Metas planer att förbättra AI-bildgeneratorn för närvarande.
Källor: The Verge
The source of the article is from the blog scimag.news