Különösen aggasztó fordulatot vett a helyzet, amikor a YouTube kénytelen volt frissíteni szabályzatait annak kinyilvánításával, hogy a halott gyermekekről készült AI videók létrehozása igazságszolgáltatási tartalomhoz nem megengedett. Az intézkedés oka, hogy egy sor olyan videó került elő a közösségi média platformokon, köztük a TikTokon, amelyekben valós gyermekgyilkosság áldozatainak szimulált hangjai szerepeltek, akik elbeszélik a saját szörnyű halálukat.
Ezek a videók, amelyek milliók által nézettségre tettek szert, széleskörű figyelmet és felháborodást váltottak ki. A YouTube frissített szabályzata 2022. január 16-án lép életbe, és büntetést szab ki a tartalomra, amely valósághűen szimulál elhunyt kiskorúakat vagy ismert erőszakos események áldozatait, akik leírják a halálukat vagy az általuk átélt erőszakot.
Bár a TikToknak már vannak szabályai ezen típusú tartalmak kezelésére, AI által létrehozott videók jelölése és az 18 év alatti vagy nem nyilvános személyek deepfake-i tiltása, a YouTube kritikát kapott azért, hogy ilyen zavaró tartalom terjedhet a platformon.
Ezek a videók nemcsak a nézők számára rendkívül zavaróak, hanem a túlélőket is hatalmas fájdalommal töltik el. Denise Fergus, akinek fia, James Bulger, 1993-ban elrabolták és megölték, megdöbbenését fejezte ki egy interjúban, és leírta a saját gyermekét ábrázoló AI videókat mint „betegeseket” és „egy holt gyermek újraélesztését”.
Az egyre gyakoribbá váló zavaró AI videók nemcsak az internet sötét oldalát tükrözik, hanem rávilágítanak a rendszer veleszületett hiányosságaira is, amelyek ösztönzik a tartalomkészítőket, hogy kihasználják a figyelmünket, függetlenül attól, hogy a tartalom milyen elkorcsosult vagy zavaró.
Ahogy olyan platformok, mint a YouTube, továbbra is küzdenek a tartalom moderálásának kihívásaival és a felhasználók biztonságának és jólétének biztosításával, még nem derült ki, hogy ezek a szabályzatfrissítések hatékonyan fogják-e visszaszorítani a zavaró videók terjedését, vagy szigorúbb intézkedések lesznek-e szükségesek a jövőben.
The source of the article is from the blog aovotice.cz