Googles mycket efterlängtade Gemini AI har stött på ett hinder som belyser de utmaningar techföretag står inför när de navigerar i den pågående kulturkonflikten. Den sökjätten meddelade på torsdagen att man tillfälligt skulle stanna upp Gemini’s förmåga att generera bilder på grund av skapandet av historiskt felaktiga avbildningar, inklusive bilder av svarta nazistiska soldater och indianamerikanska senatorer.
Genom att erkänna felaktigheterna uppgav Google att man planerar att släppa en uppdaterad version av AI-chatboten i framtiden, för att säkerställa förbättringar av historiska bildgenereringsavbildningar. Företaget syftar till att åtgärda bristerna som har lett till dessa problematiska resultat.
Även om Geminis AI-bildgenerering generellt sett har varit framgångsrik när det gäller att generera ett brett spektrum av människor, verkar tekniken ha missat målet i detta specifika avseende. Google erkänner vikten av noggrannhet och är engagerat i att snabbt åtgärda problemet.
Före detta Google-searchingenjör, Darghya Das, lyfte fram oro för Geminis brist på representation av vita människor. Flera skärmbilder delades, som avslöjade att boten främst skapade bilder av människor med färg för påståenden som gäller amerikanska, australiska, brittiska och tyska kvinnor.
Vidare kritiserade högerkommentatorn End Wokeness de rasligt varierade bilderna av Amerikas grundande fäder, påvar och vikingar som skapades av Gemini. Det här fallet har blivit en annan slagfält i den pågående kulturkonflikten, med högeranvändare som anklagar Google för att vara ”woke”.
Det verkar som att roten till problemet ligger i Googles träning- och märkningsmetoder. Användare upptäckte att Gemini skulle associera orelaterade påståenden med termer som ”mångfaldig” och ”olika etniciteter” för att skapa en uppsättning etniskt varierade bilder, i syfte att undvika partiska avbildningar. Dock verkar systemet ha överkorrigerat och inkluderat ”mångfaldig”-märkningen i bildgenereringspåståenden där det inte var relevant.
Dessutom observerade användare fall där Gemini skulle generera bilder av svarta människor men inte vita, vilket ledde till anklagelser om rasistisk partiskhet mot vita individer från högerkritiker.
Trots sina överlag imponerande förmågor visar Geminis misstag på utmaningarna med att hantera partiskhet i generativ AI. Google är fast beslutet att ta itu med problemen och upprätthålla de högsta standarderna för sina AI-teknologier.
The source of the article is from the blog lokale-komercyjne.pl