Meta AI obrázkový generátor prišiel pod palbu kritiky kvôli údajným problémom s tvorbou presných zobrazení párov alebo priateľov z rôznych rasových pozadí. Nástroj, uvedený na trh v decembri, čelil kritike kvôli jeho neschopnosti generovať obrázky, ktoré presne reprezentujú interrasové vzťahy.
Keď CNN požiadal generátor obrázkov, aby vytvoril obrázok ázijského muža s bielou manželkou, AI generátor obrázkov opakovane produkoval obrázky východoázijského muža s východoázijskou ženou. Rovnaký problém sa vyskytol pri požiadavke na vytvorenie obrazu ázijskej ženy s bielym manželom. Okrem toho, pri požiadavke na vytvorenie obrazu čiernej ženy s bielym manželom, generátor vytváral len obrázky s čiernymi páry.
Nespresnosti nástroja pokračovali aj pri požiadavke na vytvorenie obrázku ázijskej ženy s jej Kaukazskou priateľkou, pričom výsledkom boli obrázky dvoch ázijských žien. Podobne požiadavka na obrázok čiernej ženy s jej ázijskou priateľkou vygenerovala obrázky dvoch čiernych žien. Tieto príklady ukazujú neschopnosť AI obrázkového generátora presne reprezentovať rôzne rasové pozadia vo svojich generovaných obrázkoch.
Avšak po niekoľkých pokusoch od CNN, nástroj nakoniec vytvoril obrázky bielého muža s čiernou ženou a bielého muža s ázijskou ženou pri požiadavke na vytvorenie obrázkov interrasových párov.
Obavy týkajúce sa rasovej zaujatosti nástroja boli prvýkrát oznámené technologickým spravodajským kanálom The Verge. Správa zdôraznila, ako sa AI obrázkový generátor zápasil s predstavami o ázijskom mužovi so ženou bielou. Okrem toho, keď bolo priamo požiadané len o vytvorenie obrazu interrasového páru, nástroj odpovedal oznámením, že požadovaný obrázok nie je možné vytvoriť.
Interrasové páry tvoria významnú časť populácie v Amerike. Podľa údajov zameraných na sčítanie obyvateľstva z roku 2022 bolo približne 19 % ženatých opačného pohlavia interracial a takmer 29 % domácností s nemanželskými páry opačného pohlavia bolo interracial. Okrem toho, 31 % ženatých párov rovnakého pohlavia v roku 2022 bolo interracial. Tieto štatistiky zdôrazňujú dôležitosť presného vyobrazenia v AI generovaných obrazoch.
V reakcii na požiadavku CNN o komentár, Meta sa odvolala na septembrový blogový príspevok spoločnosti diskutujúci o zodpovednom vývoji generatívnych AI funkcií. Blogový príspevok uznal potrebu riešiť potenciálnu zaujatosť v systémoch generatívneho AI a zmienil, že spätná väzba od používateľov je kľúčová pri skvalitňovaní ich prístupu.
AI obrázkový generátor je dodávaný s upozornením uvádzajúcim, že generované obrázky môžu byť nepresné alebo nevhodné. Napriek sľubom o potenciáli generatívneho AI, takéto incidenty ukazujú na neustále boje, ktoré majú nástroje AI pri manipulácii s rasovými konceptmi a reprezentáciou.
Toto nie je prvýkrát, čo generatívne AI nástroje čelia kritike v tejto oblasti. Google pozastavil schopnosť svojho AI nástroja Gemini generovať obrázky ľudí skôr v tomto roku potom, čo vykazoval historicky nepresné vyobrazenia, ktoré v podstate ukazovali ľudí farby namiesto bielych jednotlivcov. Dall-E obrázkový generátor OpenAI tiež bol obvinený zo perpetuovania škodlivých rasových a etnických štýlov.
Generatívne AI nástroje, vrátane tých vyvinutých Meta, Google a OpenAI, sa učia z obrovského množstva online údajov. Avšak výskumníci varujú, že tieto nástroje môžu neúmyselne zosilniť rasové zaujatosti prítomné v týchto údajoch, niekedy vo väčšom meradle.
Napriek dobrým úmyslom týchto AI nástrojov, nedávne incidenty odhalili, že nemusia byť úplne pripravené na široké použitie. Výzvy presného zobrazovania rôznych rasových pozadia v AI generovaných obrazoch vyžadujú neustály výskum a zdokonaľovanie, aby sa zabezpečilo spravodlivé a presné zobrazenie.
Často kladené otázky
The source of the article is from the blog xn--campiahoy-p6a.es