V dôležitom kroku na reguláciu rýchlo rastúceho odvetvia umelej inteligencie čínske úrady predstavili návrh regulácie, ktorý vyžaduje jasnú identifikáciu obsahu generovaného AI. Podľa správy významného spravodajského média táto iniciatíva nariaďuje, že všetky formy médií vyprodukované pomocou AI, vrátane textu, videa, audia a virtuálnych obrazov, musia jasne označovať, že sú generované AI.
Poskytovatelia online obsahu budú musieť túto informáciu zobraziť výrazne, buď pomocou textu alebo obrázkov, a sú povzbudzovaní, aby prijali sofistikovanejšie metódy, ako sú digitálne vodotlače alebo metaúdaje. Návrh osobitne zakazuje akýmkoľvek subjektom alebo jednotlivcom odstraňovať alebo upravovať tieto identifikačné značky, pričom sa zdôrazňuje prísny prístup k vymáhaniu na ochranu pred potenciálnymi porušovaniami práv a záujmov.
Podľa agentúry pre reguláciu internetu táto regulácia platí pre širokú škálu organizácií zapojených do vytvárania a distribúcie obsahu generovaného AI, vrátane spoločností, výskumných inštitúcií a kultúrnych organizácií. Cieľom je chrániť národnú bezpečnosť a verejné záujmy, pričom je zabezpečené, že právne práva jednotlivcov a skupín sú dodržiavané.
Táto nová regulácia nadväzuje na predchádzajúce rámce ustanovené na správu syntetického obsahu a technológií deepfake, ktoré zdôrazňujú obavy z ich potenciálneho použitia v online podvodoch a pomstách. Vzhľadom na rýchly rast AI a šírenie nepravdivých informácií zvažuje mnoho krajín, vrátane tých v EÚ a USA, podobné regulačné opatrenia. Nasleduje verejné konzultačné obdobie pred finalizáciou regulácie, s cieľom zabezpečiť zodpovedné použitie technológií AI v médiách.
Čína sa stretáva s ďalšími krokmi na reguláciu obsahu generovaného AI: Nové návrhy regulácií sú predstavené
V pokračujúcom úsilí o riešenie zložitosti a výziev, ktoré predstavuje umelá inteligencia (AI) v kreatívnych oblastiach, čínska vláda predstavila nové návrhy regulácií, ktoré uplatňujú prísne požiadavky na používanie obsahu generovaného AI. Táto iniciatíva rozširuje rozsah existujúcich regulácií a jej cieľom je riešiť rastúce obavy týkajúce sa nepravdivých informácií, porušovania autorských práv a účinkov AI na spoločenské normy.
Kľúčové otázky okolo regulácií
1. **Aké konkrétne identifikačné opatrenia sú požadované pre obsah generovaný AI?**
– Návrh regulácie nariaďuje, že obsah generovaný AI musí byť jasne označený, pričom možnosti implementácie zahŕňajú textové identifikátory, digitálne vodotlače alebo metaúdaje, ktoré opisujú povahu obsahu ako AI-generovaného. Tento požiadavok pomáha rozlišovať medzi ľudskou kreativitou a strojovými výstupmi.
2. **Aké dôsledky existujú za nedodržanie?**
– Subjekty, ktoré sa nedržia identifikačných požiadaviek, môžu čeliť sankciám, ktoré môžu zahŕňať pokuty, dočasné uzavretia alebo obmedzenia ich schopnosti distribuovať obsah v budúcnosti.
3. **Ako ovplyvnia regulácie miestne a medzinárodné spoločnosti?**
– Hoci regulácie primárne cielia na domáce organizácie, medzinárodné firmy produkujúce alebo distribuujúce obsah v Číne sa musia tiež riadiť, čo predstavuje výzvy pre globálne spoločnosti, ktoré môžu mať iné štandardy pre AI obsah inde.
Výzvy a kontroverzie
Ako sa tieto návrhy regulácií rozvíjajú, objavujú sa niekoľko kľúčových výziev a kontroverzií:
– **Prekročenie právomocí a cenzúra:** Kritici tvrdia, že prísne regulácie by mohli viesť k prekročeniu právomocí úradov, čo by mohlo potlačiť kreativitu a inováciu. Objavujú sa obavy z toho, ako by tieto pravidlá mohli byť použité na kontrolu nesúhlasných hlasov alebo obmedzenie slobody prejavu.
– **Technologická realizovateľnosť:** Praktická implementácia technológií vodotlače na rôznych platformách, najmä sociálnych médiách a streamovacích službách, môže predstavovať významné technické výzvy. Spoločnosti musia nájsť spôsoby, ako integrovať tieto systémy bez narušenia používateľskej skúsenosti.
– **Ekonomický dopad:** Nové regulácie môžu na obsahových tvorcov a distribútorov uložiť dodatočné náklady, čo by mohlo viesť k spomaleniu rýchlo rastúceho odvetvia AI v Číne. Obavy sa objavujú, ako by sa tieto náklady mohli preniesť na spotrebiteľov alebo potlačiť konkurenciu.
Výhody a nevýhody
Výhody:
– Zvyšuje transparentnosť a dôveru v digitálny informačný ekosystém, pomáha používateľom rozlišovať medzi dôveryhodnými zdrojmi a AI-generovanými nepravdivými informáciami.
– Chráni práva obsahových tvorcov tým, že ustanovuje jasnejšie hranice medzi ľudskými a strojovými príspevkami, čo by mohlo posilniť vymáhanie práv duševného vlastníctva.
– Súlad s globálnymi trendmi v regulačných prístupoch k AI, čo by potenciálne mohlo postaviť Čínu do pozície lídra v nastavovaní štandardov pre zodpovedné použitie AI.
Nevýhody:
– Môže brániť inovatívnym využitiam AI v kreatívnych odvetviach zavedením regulačných záťaží, ktoré by mohli odradiť od experimentovania a nových vývojov.
– Môže viesť k rozdelenému trhu, kde len tí s dostatočnými prostriedkami môžu vyhovieť reguláciám, čím by sa marginalizovali menší tvorcovia.
– Hrozí vytvorenie prostredia nedôvery, kde je všetok AI-generovaný obsah posudzovaný s nedôverou, bez ohľadu na jeho potenciálnu hodnotu alebo vzdelávacie využitie.
Ako Čína naviguje zložitosti regulácie obsahu generovaného AI, globálni pozorovatelia budú pozorne sledovať výsledky, najmä keď ostatné národy zvažujú podobné regulačné rámce. Medzinárodné prostredie pre správu AI zostáva dynamické, pričom krajiny sa snažia vyvážiť inováciu a bezpečnosť.
Pre viac informácií o súvisiacich regulačných opatreniach týkajúcich sa technológie a tvorby obsahu navštívte Tech Policy.
The source of the article is from the blog scimag.news