A mesterséges intelligencia (AI) modellek jelentős fejlődést hoztak különböző iparágakban. Az ábrák létrehozásának területén az AI forradalmasíthatja a kreatív folyamatokat és fokozhatja a vizuális történetmesélést. Azonban az utóbbi időben a Meta AI képgenerátor eszköze és az Alphabet Gemini modell körüli viták rávilágítottak azokra a kihívásokra, amelyekkel az AI fejlesztőknek szembesülniük kell a fenotipikus vonások pontos ábrázolása és a társadalmi elfogultságok kezelése terén.
Meta AI képgenerátor eszköze, amelyet nagyra értékeltek a képek létrehozására szövegek alapján, kritikával találta magát szemben a kétfajta faji jelleggel rendelkező családok képeinek generálásában. A CNN és a The Verge által végzett tesztek korlátokat derítettek fel az eszköz teljesítőképességében. Például amikor megkísérelték létrehozni egy képet egy ázsiai férfit és egy kaukázusi feleséget, vagy egy ázsiai nőt és egy fehér férfit ábrázolni, az AI-nek nehézségei adódtak a várt eredmény előállításában. Szintén nehézségekbe ütközött más faji kombinációk képek létrehozásában is, beleértve egy afroamerikai nő megjelenítését egy fehér férjjel.
Érdekes módon a vallás hozzáadása pozitív hatást látszott kifejteni az eszköz teljesítményére. Amikor arra kérték, hogy hozzon létre egy képet egy fekete zsidó férfiról és ázsiai feleségéről, az AI képgenerátor egy képet hozott létre egy fekete férfiról, aki jarmulát visel, és egy ázsiai nőről. Ugyanakkor, egyszerűbb kérésekkel szembesülve, mint például egy „fajközi pár” képének létrehozására történő feltelepítés, az eszköz elismerte a kérelem teljesítésére való képtelenségét.
A Meta AI képgenerátor korlátai aggodalmakat vetnek fel a potenciális elfogultságok és hiányosságok miatt a humán kapcsolatok sokféleségének megragadásában. Az Egyesült Államokban, ahol az ellentétes nemi kapcsolatok legalább 19%-a különböző etnikumokhoz tartozik, elengedhetetlen, hogy az AI modellek pontosan reprezentálják ezt a valóságot. Ha nem teszik meg ezt, az nemcsak aláássa az eszköz hasznosságát, hanem erősíti az elfogultságokat és félreábrázolja a különböző közösségek tapasztalatait.
A Meta AI képgenerátor problémái nem izolált esetek. Az Alphabet Gemini AI modell hasonló vitákkal nézett szembe, „felébredt” képeket létrehozva, és bírálatokat kapva a feltételezett pedofilok elítélése hiányáért. Ezek az események további figyelmet hívják fel azokra a kihívásokra, amelyekkel az AI fejlesztőknek szembenézniük kell a felelős és elfogulatlan képgenerálás biztosítása terén.
Ahogy az AI technológia fejlődése folytatódik, létfontosságú, hogy az AI modellek olyan teljes körű megértéssel legyenek fejlesztve, amely figyelembe veszi az emberi élmények bonyolultságát és finomságát.
The source of the article is from the blog regiozottegem.be