Meta mesterséges intelligencia képalkotója a kritikák kereszttüzében találta magát az állítólagos nehézségekkel a különböző faji hátterű párok vagy barátok pontos ábrázolásában. Az eszköz, melyet decemberben adtak ki, kritikát kapott pontossága miatt, ugyanis nem tudott olyan képeket generálni, amelyek valósághűen ábrázolják a különböző faji háttérrel rendelkező kapcsolatokat.
Amikor a CNN kérésére egy ázsiai férfit egy fehér feleség képével kellett létrehoznia, a mesterséges intelligencia képalkotó folyamatosan olyan képeket állított elő, ahol egy kelet-ázsiai férfi egy másik kelet-ázsiai nővel szerepelt. Ugyanez történt, amikor egy ázsiai nőt egy fehér férjjel kellett ábrázolnia. Ráadásul amikor egy fekete nőt egy fehér férjjel képzeltek el, a generátor csak fekete pár képeket hozott létre.
Az eszköz pontatlanságai folytatódtak, amikor egy ázsiai nőt és kaukázusi barátnőjét kellett ábrázolnia, végül két ázsiai nő képe jelent meg. Hasonlóképpen, egy kérelem egy fekete nő képére és a hozzá tartozó ázsiai barátnőjére szintén két fekete nő képét hozta elő. Ezek a példák azt mutatják be, hogy a mesterséges intelligencia képalkotónak nincs képessége a diverz faji háttérok pontos ábrázolására az általa generált képeken.
Azonban a CNN többszöri próbálkozása után az eszköz végül képeket hozott létre egy fehér férfirol, aki egy fekete nővel és egy fehér férfi, aki egy ázsiai nővel szerepelt képként az interraszialis párok ábrázolása érdekében.
Az eszközzel kapcsolatos faji elfogultsági aggodalmakat először a tech híroldal, a The Verge számolt be. A jelentés kiemelte, hogy a mesterséges intelligencia képalkotó hogyan küzdött az ázsiai férfit és egy fehér nőt ábrázolni képességekkel. Továbbá, amikor csupán egy képet kellett generálnia egy interraszialis parról, az eszköz figyelmeztetést adott, miszerint az igényelt képet nem lehet generálni.
Az interraszialis párok jelentős részét kitevő amerikai lakosság. Az Amerikai Népszámlálás 2022-es adatai szerint kb. 19% a házas ellentétes nemu párok számából az interraszialis párok aránya, a nem házas, ellentétes nemu párok esetében pedig szinte 29% ak. Emellett, 2022-ben a házas azonos nemu párok 31%-a interraszialis kapcsolatban élt. Ezek az adatok hangsúlyozzák annak fontosságát, hogy az AI által generált képek valósnak és pontosnak tekinthetők.
Válaszul a CNN megkeresésére a Meta hivatkozott egy szeptemberi cégközi blogbejegyzésre, amely a generatív AI funkciók felelősségteljes fejlesztéséről szól. A blogben beismerik az AI rendszerekben lévő lehetséges elfogultság csökkentésének szükségét, és megjegyzik, hogy a felhasználói visszajelzés létfontosságú a megközelítésük finomításához.
A mesterséges intelligencia képalkotó egy nyilatkozattal érkezik, mely kimondja, hogy a generált képek pontatlanok vagy nem megfelelőek lehetnek. Annak ellenére, hogy a generatív AI ígéretei sokoldalú potenciálját hangsúlyozzák, hasonló incidensek, mint ezek mutatják a mesterséges intelligencia eszközök állandó küzdelmeit a faji koncepciók és ábrázolások kezelésében.
Ez nem az első eset, amikor a generatív AI eszközök kritikával találják szembe magukat ezen a területen. A Google idén korábban szüneteltette Gemini AI eszközének képalkotó képeségeit, miután történelmileg pontatlan ábrázolásokat hozott létre, melyek túlnyomórészt az ázsiai embereketmutatták fehér egyedek helyett. Az OpenAI Dall-E képalkotója is vádat emeltek ellene, amiért ártalmas faji és etnikaistereotípiákat tartalmazott.
A generatív AI eszközök, beleértve azokat, amelyeket a Meta, a Google és az OpenAI fejlesztett, rengeteg online adatból tanulnak. Azonban a kutatók figyelmeztettek, hogy ezek az eszközök akaratlanul felerősíthetik az abban a adatokban jelen lévőfaji elfogultságokat, álltalában egy nagyobb méretben.
A jó szándékok ellenére ezen AI eszközökkel kapcsolatos korábbi incidensek megmutatták, hogy lehet, hogy még nincsenek teljesen felkészülve a széleskörű használatra. A diverz faji háttérok pontos ábrázolásának kihívásai az AI generált képek területén folyamatos kutatást és finomítást igényelnek ahhoz, hogy biztosítsák a tisztességes és pontos ábrázolást
GYIK
1. Mi is pontosan a Meta mesterséges intelligenciájú képalkotója?
A Meta mesterséges intelligencia képalkotója olyan eszköz, amit a Meta fejlesztett ki annak érdekében, hogy automatikusan képeket hozzon létre a felhasználó által adott stimulik alapján. Generatív AI technológiát használ egyedi képek létrehozására.
2. Miért éri kritika a Meta mesterséges intelligencia képalkotóját?
Az AI képalkotó kritikát kapott azért, mert állítólagosan küszködik a különböző faji háttérrel rendelkező párok vagy barátok képeinek pontos elkészítésével. Beszámolók szerint az eszköz gyakran nem tudja pontosan ábrázolni az interraszialis kapcsolatokat, helyette olyan képeket hoz létre, amelyek faji elfogultságokat erősítenek.
3. Mennyire pontosak az eszköz által generált képek?
A Meta mesterséges intelligencia képalkotó egy nyilatkozattal érkezik, mely kimondja, hogy a generált képek pontatlanok vagy nem megfelelőek lehetnek. A felhasználók rámutattak olyan esetekre, ahol az eszköz nem tudta pontosan ábrázolni a különböző faji háttérrel rendelkező párokat vagy barátokat, ezzel a korlátainak megjelenítése.
4. Milyen lépéseket tesz a Meta a probléma megoldása érdekében?
A Meta egy cégközi blogbejegyzésre hivatkozott, amely a generatív AI funkciók felelősségteljes fejlesztéséről szól. A blogban elismerik a szükséget az elfogultság csökkentésére és megjegyzik, hogy a felhasználói visszajelzés létfontosságú a megközelítésük finomításához az esetleges problémák kezelésére. Bátorítják a felhasználókat, hogy adják visszajelzésüket annak érdekében, hogy segítsék az eszköz pontosságának és befogadásának javítását.
5. Hogyan kapcsolódnak ezek az incidentek más AI kép generáló eszközökhöz?
Hasonló incidensekkel találkoztunk más AI kép generáló eszközökkel, ideértve a Google Gemini-jét és az OpenAI Dall-E-jét is. Ezek az eszközök kritikákat kaptak azért, mert pontatlan vagy sztereotipikus képeket hoztak létre, amelyek jelzik az AI eszközöknek a faji koncepciókat és az ábrázolásokat kezelő folyamatos kihívásait.
Források:
– [CNN cikk](https://www.cnn.com/)
– [US Census adatok](https://www.census.gov/)
The source of the article is from the blog radardovalemg.com