Kevin TopolskyA Meta felügyelőbizottsága szigorú vizsgálat alá vonta a vállalat irányelveit az AI által generált meztelen képek és nőket ábrázoló deepfake-ek kezelésével kapcsolatban, két eset következtében az Instagramon és a Facebookon, amelyek aggodalmakat vetettek fel a tartalom következetességével és végrehajtásával kapcsolatban. Egy nyilván nem nevesített Facebook-csoportban egy nőt nemi erőszakkal érintő meztelen kép került eltávolításra a magánéletének védelme és a zaklatás megelőzése érdekében. Ez a kép hozzá lett adva egy médiaazonosító adatbázishoz az automatikus felismerés érdekében, ha újraközzéteszik.
Egy másik eset merült fel az Instagramon, ahol egy Indiai származású nőket ábrázoló AI-generált képeket közlő fiók posztolt egy Indiai nőt ábrázoló deepfake meztelen képet. Az említett kép kezdetben kimaradt a Meta deklarált időkereten belüli, nem vizsgált át tekintélye miatt, ami felhívást eredményezett a felhasználótól, majd később zárva lett.
A tanács csak akkor cselekedett, amikor a problémára rávilágított a Metának, amelynek eredményeként eltávolították a deepfake-et betartva a „Zaklatás és megfélemlítés” irányelvüket. Az ilyen eltérő esetek arra utalnak, hogy inkonzisztencia tapasztalható a politika végrehajtásában az AI-generált női deepfake-ekkel kapcsolatban, és kérdéseket vet fel az eljárások átláthatóságával kapcsolatban, amikor vizsgálat nélkül lezárják a bejelentéseket.
A Meta tervei arra irányulnak, hogy a gépi tanulások által létrehozott tartalmakat átláthatóbban jelölje meg az utóbbi időben virálissá vált AI által készített képek után, és számos kritikát kapott a manipulált médiával kapcsolatos nem kellően egyértelmű irányelvei miatt. Ebben az évben korábban felmerült beszélgetések arról, hogy a hírességek, például Taylor Swift hogyan kerültek előtérbe nem híres áldozatokkal kapcsolatos deepfake-ek kezelése során.
Az AI által létrehozott tartalom megengedett a platformjaikon, miközben tiltja a meztelenséget és szexuális tartalmakat, a Meta tartalomcímkéztetési kezdeményezése azt célozza, hogy „AI által készített” címkéket vezessen be a posztokhoz. Az ellenőrzőbizottság ezekkel az esetekkel való foglalkozásának a reménye, hogy rávilágítást nyerjenek a Meta irányelveinek és gyakorlatainak hatékonyságára az egyének magánéletének védelmezése szempontjából az advanced tartalommanipuláció korában.
Jelenlegi piaci trendek:
A deepfake technológia és az AI által generált kép terjedése az egyik legnyomósabb trend a tartalomkezelés és digitális irányelvek területén. Ahogy az AI technológia egyre fejlettebbé és elérhetővé válik, a deepfake-ek készítése hatalmas mértékben növekszik, nemcsak szórakozásra, hanem olyan kontextusokban is, amelyek ártalmasak lehetnek az egyénekre, például nem hozzájáruló pornográfia létrehozásával vagy félrevezető információk terjesztésével.
A Metahoz hasonló vállalatok egyre nagyobb nyomás alatt állnak, hogy ügyesen kezeljék ezeket a tartalmakat, olyan kihívásokkal szembesülve, mint a felhasználók magánéletének biztosítása, a zaklatás megelőzése és a szabadságjogok fenntartása a platformjaikon. Tendencia van arra, hogy az AI-t használják az AI által generált tartalmak ellen, a közösségi média platformjai fejlettebb észlelési algoritmusokat fejlesztenek ki, hogy azonosítsák és kezeljék a nem önkéntes deepfake-okat vagy AI generált meztelenséget.
Előrejelzések:
A továbbiakban a AI által generált tartalmak kezelésével kapcsolatos kihívást csak várhatóan növekszik. Az eszközök a deepfake-ek vagy szintetikus média létrehozására egyre elérhetőbbek lesznek a széles közönség számára, ami azt jelenti, hogy olyan platformok, mint a Meta tulajdonában lévők, valószínűleg egyre nagyobb mértékben fogják kezelni ezeket a tartalmakat. Emellett növekvő igény lesz észlelési és végrehajtási mechanizmusok korszerűsítésére és tartós párbeszédek lesznek az AI etikája és alkalmazásai körül.
Főbb kihívások és viták:
A lényeges vita az AI által generált tartalom és az etikus felhasználás közötti egyensúlyról szól. Míg az AI számtalan kreatív lehetőséget kínál, a visszaélése, különösen nem önkéntes intim képek vagy deepfake-ek létrehozása súlyos etikai kérdéseket vet fel. Egy másik kihívás a manipulált médiát létrehozó technológia és a felismerő technológia közötti verseny, ami folyamatos vitákat generál a magánélet, a digitális hitelesség és a szabályozói beavatkozás szükségessége körül.
Előnyök és hátrányok:
Az AI használatának előnyei közé tartozik az új szórakozási formák, a tartalom személyre szólóvá tétele és a különböző előnyös alkalmazások az iparágak széles körében. Ugyanakkor a hátrányok, különösen a deepfake-ek és az AI által generált meztelen képek területén, magukban foglalják a lehetséges ártalmakat a nem önkéntes tartalom, a zaklatás, a rágalmazás és a félrevezető információk révén, amelyek mind kockázatot jelentenek a személyes magánélet és biztonság tekintetében.
Kapcsolódó link:
További információkért a Metáról látogasson el hivatalos weboldalukra az alábbi linken: Meta.
A témához kapcsolódó fontos kérdések megválaszolása:
1. Milyen irányelvei vannak a Metának az AI által generált meztelen képek és deepfake-ek kezelésére?
A Meta olyan irányelveket tart fenn, amelyek tiltják a meztelenséget és a szexuális tartalmakat, valamint iránymutatása van a zaklatás és megfélemlítés ellen, amely gyakran beavatkozik az ilyen típusú esetekben. Emellett médiaazonosító adatbázisokat használnak a tiltott tartalmak automatikus felismerésére.
2. Hogyan tervezi a Meta, hogy javítja az AI által generált tartalmak átláthatóságát?
A Meta tervezi bevezetni a „Made With AI” címkéket, hogy segítse azonosítani az AI által létrehozott tartalmakat.
3. Milyen inkonzisztenciákat vet fel a Meta politikáinak végrehajtásával kapcsolatban?
Eseteket jelentettek, ahol egyes esetekben, különösen a hírességek által érintett esetekben nagyobb figyelem és intézkedés érkezik az azonosítatlan személyek által érintett esetekhez viszonyítva, kétségeket vetve fel az egyenlő és következetes politika végrehajtásáról.
4. Milyen szerepet játszik az Irányító Bizottság ezeknek a problémáknak a kezelésében?
Az Irányító Bizottság ellenőrző bizottságként működik, amely konkrét eseteket vizsgál és ajánlásokat tesz a Meta számára, hogy hogyan kell kezelni hasonló eseteket a jövőben, ösztönözve a Metát, hogy egyenletesen és átláthatóan alkalmazza irányelveit.
