Lidia PerskaYouTube zaujala pevný postoj proti použitiu umelej inteligencie (AI) na vytváranie obsahu zobrazujúceho zosnulé neplnoleté osoby alebo obete násilných udalostí. S cieľom bojovať proti rastúcemu zneužívaniu technológie AI aktualizovala platforma svoje pravidlá týkajúce sa obťažovania a kybernetického šikanovania. Uplatňovanie týchto pravidiel sa má začať 16. januára.
Táto kroky sú reakciou na tvorcov obsahu, ktorí využili AI na vytváranie podobenstiev zosnulých či zmiznutých detí. Títo tvorcovia dali týmto postavám vytvoreným pomocou AI hlas detí, aby opísali detaily ich úmrtia. Alarmujúce používanie tejto technológie získalo významnú pozornosť po správe publikovanej v The Washington Post, ktorá zdôraznila prípady, keď sa AI použilo na rozprávanie o únosu a smrti detí.
YouTube jasne uviedla, že akýkoľvek obsah porušujúci toto pravidlo bude okamžite odstránený, a tvorcovia budú o tom informovaní e-mailom. V prípade, že bezpečnosť zverejneného odkazu nie je možné overiť, môže platforma odstrániť aj samotný odkaz. Platforma zdôraznila svoje zaviazanie k odstráneniu škodlivého obsahu a zabezpečeniu bezpečnosti svojich používateľov.
Okrem toho YouTube zaviedla systém varovania pre kanály, ktoré opakovane porušia pravidlá. Ak kanál dostane tri varovania za porušenia pravidiel v priebehu 90 dní, môže čeliť ukončeniu.
Tento krok YouTube zrkadlí podobný vývoj na čínskej krátkovideoplatforme TikTok. TikTok nedávno zaviedol funkciu, ktorá umožňuje tvorcom uviesť, či ich obsah obsahuje AI-generované alebo upravené médiá s realistickými scénami. Tento krok je súčasťou úsilia platformy riešiť etické a bezpečnostné obavy spojené s použitím AI pri tvorbe obsahu.
Týmito krokmi YouTube prejavuje svoju odhodlanosť udržiavať bezpečné a úctivé prostredie pre svojich používateľov. Je dôležité, aby online platformy riešili možné zneužívanie technológií a chránili zraniteľné osoby pred zneužitím.
