Meta-jev AI slikovni generator je postal predmet kritik zaradi domnevnih težav pri ustvarjanju natančnih upodobitev parov ali prijateljev različnih rasnih ozadij. Orodje, ki je bilo izdano decembra, je naletelo na kritike zaradi nesposobnosti generiranja slik, ki bi natančno predstavljale medrasne odnose.
Ko je CNN prosil, naj ustvari sliko azijskega moškega z belo ženo, je AI slikovni generator ponovno ustvarjal slike vzhodnoazijskega moškega z vzhodnoazijsko žensko. Enak problem se je pojavil, ko je bil prosenjen za ustvarjanje slike azijske ženske z belim možem. Poleg tega je generator pri ustvarjanju slike črne ženske z belim možem generiral le slike parov z črnimi osebami.
Nenatančnosti orodja so se nadaljevale, ko je bil prosenjen za ustvarjanje slike azijske ženske s svojo kavkaško prijateljico, kar je privedlo do slik dveh azijskih žensk. Podobno je zahtevo po sliki črne ženske s svojo azijsko prijateljico rezultiralo v slikah dveh črnih žensk. Ti primeri kažejo na nesposobnost AI slikovnega generatorja, da natančno predstavlja raznolika rasna ozadja v ustvarjenih slikah.
Kljub temu je orodje po več poskusih s strani CNN uspelo ustvariti slike beležca z črno žensko in beležca z azijsko žensko, ko je bilo proseno za ustvarjanje slik medrasnih parov.
Zaskrbljenost zaradi rasne pristranskosti orodja je najprej poročal tehnološki novičarski portal The Verge. Poročilo je poudarilo, kako je AI slikovni generator težko predstaviti azijskega moškega s črnko. Poleg tega, ko je bil preprosto zaprošen za generiranje slike medrasnega para, je orodje odgovorilo z sporočilom, da zahtevana slika ni mogla biti ustvarjena.
Medrasni pari predstavljajo pomemben del prebivalstva Amerike. Po podatkih iz popisa prebivalstva ZDA iz leta 2022 je približno 19% poročenih nasprotnih spolov medrasnih, medtem ko je skoraj 29% gospodinjstev neporočenih nasprotnih spolov medrasnih. Poleg tega je bilo leta 2022 31% poročenih istospolnih parov medrasnih. Ti statistični podatki poudarjajo pomembnost natančne predstavitve v AI ustvarjenih slikah.
Na prošnjo CNN za komentar je Meta skliceval na septembrski blog podjetja, ki obravnava odgovorni razvoj generativnih AI funkcij. Blog je priznal potrebo po naslavljanju morebitnih pristranskosti v generativnih AI sistemih in omenil, da je povratna informacija uporabnikov ključna pri izpopolnjevanju njihovega pristopa.
AI slikovni generator je opremljen z oznako, ki pravi, da so generirane slike lahko netočne ali neprimerne. Kljub obljubam o potencialu generativnega AI, dogodki, kot je ta, izpostavljajo težave, s katerimi se srečujejo AI orodja pri obravnavanju rasnih konceptov in predstavljanju.
To ni prvič, da so generativna AI orodja naletela na kritike na tem področju. Google je prekinil možnost svojega AI orodja Gemini za generiranje slik ljudi prejšnje leto, potem ko je ustvarilo zgodovinsko netočne upodobitve, ki so večinoma prikazovale osebe barve namesto belih posameznikov. Tudi Dall-E slikovni generator podjetja OpenAI je bil obtožen, da širi škodljive rasne in etnične stereotipe.
Generativna AI orodja, vključno z tistimi, ki so jih razvili Meta, Google in OpenAI, se učijo iz velikih količin spletnih podatkov. Vendar so raziskovalci opozorili, da lahko ta orodja nenamerno povečajo rasno pristranskost, ki je prisotna v teh podatkih, včasih na veliko večji ravni.
Kljub dobri nameri teh AI orodij so nedavni dogodki razkrili, da morda še niso povsem pripravljeni za široko uporabo. Izzivi natančnega predstavljanja raznolikih rasnih ozadij v AI ustvarjenih slikah zahtevajo nenehno raziskovanje in izpopolnjevanje, da se zagotovi pošteno in natančno predstavljanje.
Pogosta vprašanja
1. Kaj je Metajev AI slikovni generator?
Metajev AI slikovni generator je orodje, ki ga je razvil Meta, da avtomatično ustvari slike na podlagi uporabniških povpraševanj. Uporablja tehnologijo generativne AI za ustvarjanje edinstvenih slik.
2. Zakaj Metajev AI slikovni generator deležen kritik?
AI slikovni generator je postal predmet kritik, ker očitno ima težave pri natančnem ustvarjanju slik parov ali prijateljev iz različnih rasnih ozadij. Poročano je, da orodje pogosto ne uspe natančno predstaviti medrasnih odnosov, namesto tega ustvarja slike, ki podpirajo rasno pristranskost.
3. Kako natančne so slike, ki jih ustvari AI orodje?
Metajev AI slikovni generator prihaja z oznako, ki navaja, da so generirane slike lahko netočne ali neprimerne. Uporabniki so opozorili na primere, ko orodje ne uspe natančno upodobiti parov ali prijateljev iz različnih rasnih ozadij, kar kaže na njegove omejitve na tem področju.
4. Kakšni koraki podjetja Meta so načrtovani za reševanje tega problema?
Meta se je skliceval na blog podjetja, ki obravnava odgovorni razvoj generativnih AI funkcij. Priznavajo potrebo po zmanjšanju pristranskosti ter izpopolnitvi svojega pristopa za naslovljanje morebitnih težav. Spodbujajo uporabnike, naj podajo povratne informacije, ki bodo pomagale izboljšati natančnost in vključevanje orodja.
5. Kako se ti dogodki nanašajo na druge AI orodja za generiranje slik?
Podobni dogodki so bili poročani pri drugih AI orodjih za generiranje slik, vključno z Googlejevim Gemini in OpenAIjevim Dall-E. Ta orodja so bila kritizirana zaradi ustvarjanja netočnih ali stereotipnih slik, kar poudarja nenehne izzive, s katerimi se spopadajo AI orodja pri obravnavanju rasnih konceptov in predstavljanju.
Vir: CNN Članek
The source of the article is from the blog kewauneecomet.com