Umetna inteligenca (AI) image generatorji so močno vplivali na industrijo ustvarjanja digitalne vsebine. Ti orodja uporabljajo algoritme umetne inteligence za generiranje realističnih slik na podlagi danih povzetkov ali vnosov. Nedavne odkritja pa so razkrila obstoj vztrajnih pristranosti znotraj modelov AI, ki postavljajo vprašanja o točnosti in poštenosti teh sistemov.
Eden od opaznih primerov je Meta-jev AI image generator “Imagine”, ki je pokazal določeno pristranskost pri generiranju slik določenih medrasnih razmerij. Preiskava portala The Verge je ugotovila, da je aplikacija dosledno generirala slike dveh azijskih oseb namesto natančnega generiranja slik “azijskega moškega in kavkaškega prijatelja” ali “azijskega moškega in bele žene”. Ta pristranskost je vredna pozornosti, še posebej glede na dejstvo, da je izvršni direktor Meta, Mark Zuckerberg, poročen z žensko azijskega porekla, Priscillo Chan.
Gizmodo je opravil dodatne preiskave v Meta-jev Imagine in ugotovil, da ni imel enakih težav pri generiranju slik drugih medrasnih parov, kot so beli moški in azijska ženska. Ti ugotovitve poudarjajo prisotnost temeljnih pristranosti in napak v podatkih, uporabljenih za usposabljanje sistemov AI, ki ustvarjajo slike.
Meta-jev Imagine ni osamljen primer. Februarja je Google naletel na kontroverzo, ko je njegov image generator Gemini ustvaril rasno raznolike slike nacistov, kar je privedlo do zaprtja sistema. Ta incident je poudaril nevarnosti poskusa vključevanja raznolikosti brez ustrezenga nadzora in kontrole kakovosti.
Kritiki trdijo, da te pristranskosti izhajajo iz obsežne zasvojenosti s podatki iz interneta za usposabljanje AI image generatorjev. Ker internet odraža obstoječe rasne stereotipe in pristranskosti, jih modeli AI nevedoma ohranjajo. Čeprav so bili narejeni napori za reševanje teh pristranosti, je še vedno veliko dela v reševanju temeljnih težav.
Problemi z natančnostjo in objektivnostjo niso prisotni samo pri generatorjih slik. AI chatboti se prav tako soočajo s težavami pri povedanju resnice ali izražanju logičnih trditev, odražajoč težave, s katerimi se srečujejo generatorji slik. Te težave poudarjajo potrebo po celovitih rešitvah za preoblikovanje pokrajine generativnih AI tehnologij.
Velike tehnološke korporacije, ki so v ospredju razvoja AI sistemov, morajo dajati prednost odpravljanju pristranosti in popravljanju napak v svojih tehnologijah. Rasne pristranskosti v tehnologiji ne morejo biti obravnavane kot osamljeni incidenti, ampak zahtevajo osredotočen trud za zagotovitev poštenosti in objektivnosti.
Sklepoma razvoj AI image generatorjev je preoblikoval ustvarjanje digitalne vsebine. Vendar obstoj pristranskosti znotraj teh AI modelov, kot smo videli v Meta Imaginu in Googlovem Geminiju, postavlja vprašanja o poštenosti in točnosti teh sistemov. Napore je treba storiti v tehnološki industriji, da bi celovito naslovili te pristranskosti in preoblikovali pokrajino AI tehnologij na bolje.
Sources:
– No specific sources were mentioned in the original article.
The source of the article is from the blog trebujena.net