Az mesterséges intelligencia (MI) forradalmat hozott számos iparágban, beleértve a képalkotást is. Ahogy a technológiai vállalatok lépésről lépésre belevágnak az MI képalkotásba, jelentős kihívásokkal néznek szembe, ahogyan azt a Firefly, az Adobe MI képalkotó eszköze mutatja. Firefly számos, a rasszok és etnikai csoportok jellemzőinek pontatlan ábrázolásáért kapott kritikát, hasonlóan a Google Gemini nevű eszközhöz.
Gemini körüli vita vezetett annak leállításához, miután történelmileg pontatlan képeket hozott létre, például az Amerika Alapítóit fekete embereknek ábrázolva, miközben a fehéreket nem. A Google vezérigazgatója, Sundar Pichai beismerve a hibát, elismeri, hogy a cég „rosszul csinálta”.
A Semafor tesztelő szervezet azt találta, hogy a Firefly sok ugyanazt a hibát reprodukálja, mint amit a Gemini tett. Mindkét eszköz hasonló technikákat használ képek létrehozásához írott szövegekből, de különböző adathalmazokon vannak betanítva. Az Adobe Firefly kifejezetten stock fotókat vagy licencelt képeket használ a tanítási folyamatban.
Bár az Adobe és a Google eltérő vállalati kultúrákkal rendelkezik, az alapvető kihívás az képalkotási technológia magjában rejlik. A vállalatok megpróbálhatják irányítani és formálni az algoritmusokat, de nincs olyan fail-safe módszer, amellyel minden pontatlanságot és elfogultságot ki lehetne irtani.
Gyakran Ismételt Kérdések
1. Milyen hibákat követett el a Firefly?
A Firefly olyan képeket hozott létre, amelyek fekete katonákat ábrázoltak, akik a nácikért harcolnak a második világháborúban, és fekete férfiakat és nőket illesztett bele jelenetekbe, amelyek az Alapító Apákat ábrázolják 1787-ben. Többféle változatát is előállította egy képregény karakternek, beleértve egy idős fehér férfit, egy fekete férfit, egy fekete nőt és egy fehér nőt. Emellett készített képeket fekete vikingekről, hasonlóan ahhoz, amit a Gemini tett.
2. Miért követnek el ezek a hibák?
Ezek a hibák abból fakadnak, hogy a modell tervezői igyekeznek elkerülni a rasszista sztereotípiák fenntartását. Az különböző csoportok, például orvosok vagy bűnözők megjelenítésével próbálnak kihívni a rasszista sztereotípiákat. Azonban ha történelmi kontextusban alkalmazzák ezeket az erőfeszítéseket, azokat a mai politikai dinamikákat figyelembe véve úgy lehet értékelni, mint egy próbát a történelem átírására.
3. Csak az Adobe vagy a Google került ilyen kihívások elé?
Nem, ezek a kihívások nem kizárólag egy adott vállalatra vagy modellre korlátozódnak. Az Adobe esete bizonyítja, hogy még egy olyan cég is, amelyről ismert, hogy betartja az irányelveket, nehézségekbe ütközhet. Az átfogó tanítási adatok biztosítása és a mesterséges intelligencia rendszerekben meglévő elfogultságok kezelése továbbra is egy általános kihívás az iparágban.
Az Adobe jelentős lépéseket tett az ilyen problémák enyhítése érdekében. A cég saját algoritmusa tanítását stock képeken, nyílt licenccel ellátott tartalmakon és közvagyon tartalmakon alapuló hoz létre, hogy elkerülje a szerzői jogi aggályokat a vásárlói számára.
Bár az Adobe nem kommentálta ezt a konkrét problémát, az MI képalkotás körüli viták rávilágítanak a technológiai vállalatok szembesülnek az áttekinthető és elfogulatlan MI eszközök kifejlesztése során. Ezek a kihívások aláhúzzák a folyamatos fejlesztések és az etikai szempontok szükségességét az MI fejlesztésében és végrehajtásában.
Gyakran Ismételt Kérdések
1. Milyen hibákat követett el a Firefly?
A Firefly olyan képeket hozott létre, amelyek fekete katonákat ábrázoltak, akik a nácikért harcolnak a második világháborúban, és fekete férfiakat és nőket illesztett bele jelenetekbe, amelyek az Alapító Apákat ábrázolják 1787-ben. Többféle változatát is előállította egy képregény karakternek, beleértve egy idős fehér férfit, egy fekete férfit, egy fekete nőt és egy fehér nőt. Emellett készített képeket fekete vikingekről, hasonlóan ahhoz, amit a Gemini tett.
2. Miért követnek el ezek a hibák?
Ezek a hibák abból fakadnak, hogy a modell tervezői igyekeznek elkerülni a rasszista sztereotípiák fenntartását. Az különböző csoportok, például orvosok vagy bűnözők megjelenítésével próbálnak kihívni a rasszista sztereotípiákat. Azonban ha történelmi kontextusban alkalmazzák ezeket az erőfeszítéseket, azokat a mai politikai dinamikákat figyelembe véve úgy lehet értékelni, mint egy próbát a történelem átírására.
3. Csak az Adobe vagy a Google került ilyen kihívások elé?
Nem, ezek a kihívások nem kizárólag egy adott vállalatra vagy modellre korlátozódnak. Az Adobe esete bizonyítja, hogy még egy olyan cég is, amelyről ismert, hogy betartja az irányelveket, nehézségekbe ütközhet. Az átfogó tanítási adatok biztosítása és a mesterséges intelligencia rendszerekben meglévő elfogultságok kezelése továbbra is egy általános kihívás az iparágban.
Definíciók:
– Mesterséges intelligencia (MI): Az emberi intelligenciát szimuláló folyamatok gépek általi megoldása, beleértve a tanulás és a problémamegoldás képességét.
– MI képalkotás: Az MI algoritmusok használata a képek generálásához szöveges leírások alapján vagy más bemenet alapján.
– Rassz és etnikai tulajdonságok: A különböző rasszok vagy etnikai csoportokhoz társított fizikai jellegzetességek.
– Gemini: A Google AI képalkotó eszköze, amelyet kritizáltak a rassz és etnikai tulajdonságok pontatlan ábrázolásáért generált képeiben.
– Sundar Pichai: A Google vezérigazgatója.
– Semafor: Egy tesztelő szervezet, amely hasonló hibákat talált az Adobe AI képalkotó eszközében, a Fireflyban.
Javasolt kapcsolódó linkek:
– Adobe.com
– Google.com
The source of the article is from the blog lisboatv.pt