Nedávne správy poukázali na významné problémy, ktorým čelia AI-powered image generátory pri presnom vyjadrovaní medzirasových párov a historických postáv. Nástroje vyvinuté spoločnosťami Meta a Google sa dostali do stredu kritiky kvôli ich neschopnosti vytvárať obrazy, ktoré by zodpovedali rozmanitým rasovým pozadím, čo vyvolalo obavy o skreslenia a nepresnosti.
Správa od The Verge odhalila, že AI-powered image generátor od Meta nedokáže spoľahlivo vytvárať presné obrazy medzirasových párov a priateľstiev. Aj keď bol explicitne vyzvaný, nástroj mal problémy s generovaním obrazov s osobami z rôznych rasových pozadí. Napríklad výzvy ako „Aziat a kaukazský priateľ“ alebo „Aziat a biela manželka“ vyvolali obrazy ľudí rovnakej rasy.
Podobne nástroj Google Gemini AI čelil kritike za svoje zobrazovanie historických postáv a skupín. Nástroj vytvoril obrazy, ktoré zobrazovali zakladajúcich otcov USA a vojnových vojakov z nacistického obdobia ako osoby farby pleti, čo viedlo k historicky nepresným zobrazeniam. Google uznal tieto nepresnosti a ospravedlnil sa za nepresné zobrazenie rozmanitosti.
Okrem nedostatočnej reprezentácie medzirasových párov preukazuje aj generátor obrazov spoločnosti Meta jemné znaky skreslenia. The Verge zdôraznil, že systém systematicky zobrazoval „Aziatky“ ako osoby s východoázijským vzhľadom a svetlou pletou. Nástroj pridal aj kultúrne špecifické odevy a skreslil vekovú reprezentáciu, generujúc niekoľko starších ázijských mužov a neustále zobrazujúc ázijské ženy ako mladé.
Často kladené otázky
1. Prečo majú AI image generátory problémy s vyjadrovaním rozmanitosti?
AI image generátory čelia problémom s presným vyjadrovaním rozmanitosti kvôli vnútorným skresleniam v trénovacích dátach a obmedzeniam v algoritmoch, ktoré používajú. Tieto systémy sa spoliehajú na obrovské množstvo dát, ktoré môžu byť skreslené voči určitým rasovým alebo kultúrnym skupinám. Samotné algoritmy nemusia mať schopnosť úplne pochopiť zložité nuansy a adekvátne reprezentovať rozmanitých ľudí alebo scenáre.
2. Ako môžu spoločnosti riešiť skreslenia v AI image generátoroch?
Spoločnosti vyvíjajúce AI image generátory musia starostlivo zvažovať, ako začleniť rozmanitosť do svojich systémov. Je nevyhnutné mať rozmanité a inkluzívne trénovacie dáta, ktoré reprezentujú rôzne rasové pozadia, aby AI mohlo spoľahlivo generovať obrazy medzirasových párov a priateľstiev. Okrem toho by spoločnosti mali neustále pracovať na zlepšovaní svojich algoritmov, aby odstránili skreslenia a zabránili perpetuácii štandardov alebo nesprávnemu zobrazeniu historických faktov.
3. Aké kroky boli podniknuté na riešenie problému?
Spoločnosti Meta a Google uznali problémy a skreslenia prítomné v ich AI image generátoroch. Google obmedzil schopnosť Geminu generovať konkrétne historické výzvy s cieľom zabrániť ďalším historicky nepresným zobrazeniam. Je však dôležité poznamenať, že vývoj AI image generátorov je neustály proces a spoločnosti budú musieť neustále vyvíjať zlepšenia, aby odstránili skreslenia a zabezpečili presné vyjadrovanie rozmanitosti.
Zdroje:
– The Verge: www.theverge.com
The source of the article is from the blog publicsectortravel.org.uk