Umjetna inteligencija (AI) generatori slika revolucionirali su način na koji stvaramo i vizualiziramo digitalni sadržaj. Međutim, nedavna otkrića su bacila svjetlo na persistentne predrasude ukorijenjene unutar ovih AI modela. Jedan takav primjer je Meta-ov AI generator slika “Imagine”, koji ima problema s preciznim prikazom određenih međurasnih veza.
Verge je istražio ovaj problem i otkrio da kada je zamoljen da generira slike “azijskog muškarca i kavkaskog prijatelja” ili “azijskog muškarca i bijele supruge”, aplikacija je konzistentno proizvodila slike dva azijska pojedinca umjesto traženog međurasnog para. Ova specifična pristranost je zapažena, posebno imajući u vidu da je CEO Meta-e, Mark Zuckerberg, oženjen s Priscillom Chan, koja je azijskog porijekla.
Daljnja istraživanja Gizmoda su otkrila da Meta-ov Imagine nije imao iste teškoće pri generiranju slika drugih međurasnih parova, poput bijelog muškarca i azijske žene. Ovi nalazi postavljaju pitanja o temeljnim manama i pristranostima prisutnim u podacima koji treniraju AI sustave za generiranje slika.
Važno je napomenuti da Meta-ov Imagine nije jedini generator slika koji se suočava s kontroverzama. U veljači je Google morao ugasiti svoj Gemini generator slika nakon što je proizveo rasno raznolike slike nacista. Ovaj incident je viđen kao posljedica nesmotrenog pokušaja uključivanja raznolikosti bez odgovarajućeg nadzora.
Kritičari tvrde da ove pristranosti potječu od velike količine podataka prikupljenih s interneta kako bi se trenirali AI generatori slika. Budući da internet odražava postojeće rasne stereotipe i pristranost, nehotice ih održava kroz ove AI modele. Iako su poduzeti napori za ispravljanje ovih pristranosti, nedostaju u rješavanju korijenskih problema.
Generativna AI, uključujući generatore slika i chatbotove, i dalje se bore s točnošću i objektivnošću. AI chatbotovi često imaju problema s govorenjem istine ili davanjem logičnih izjava, odražavajući izazove s kojima se suočavaju i generatori slika.
Tehnološka industrija, posebno velike tehnološke tvrtke, moraju pokazati svoju posvećenost iskorjenjivanju ovih pristranosti i ispravljanju mana u svojim AI sustavima. Rasne pristranosti u tehnologiji ne mogu se smatrati izoliranim incidentima, već zahtijevaju sveobuhvatna rješenja za preoblikovanje pejzaža.
Česta pitanja:
P: Što su AI generatori slika?
O: AI generatori slika su alati ili sustavi koji se temelje na umjetnoj inteligenciji i mogu generirati realistične slike na temelju određenih unosa ili upita.
P: Jesu li AI generatori slika pristrani?
O: Da, AI generatori slika mogu biti pristrani zbog podataka na kojima su trenirani, koji često odražavaju postojeće rasne stereotipe i društvene pristranosti.
P: U čemu je problem s Meta-inim AI generatorom slika, Imagine?
O: Meta-ov Imagine imao je poteškoća u generiranju preciznih slika određenih međurasnih veza, konzistentno proizvodeći slike dva azijska pojedinca umjesto traženog međurasnog para.
P: Je li pristranost čest problem u AI tehnologiji?
O: Da, pristranost je učestali problem u AI tehnologiji koji utječe na različite aplikacije, uključujući generatore slika, chatbotove i ostale AI sustave.
P: Kako se tehnološki divovi nose s ovim pristranostima?
O: Tehnološki divovi nastoje rješavati pristranosti u AI sustavima. Međutim, još uvijek je puno posla potrebno obaviti kako bi se učinkovito eliminirale pristranosti i osigurala pravednost i objektivnost AI tehnologija.
The source of the article is from the blog dk1250.com