TikTok stanoví nový štandard v transparentnosti pre sociálne médiá prostredníctvom zavedenia označenia obsahu generovaného umelou inteligenciou. Tento týždeň riaditeľ operácií TikToku, Adam Presser, odhalil v relácii ABC News, že platforma zvýši povedomie používateľa tým, že rozlišuje prostredníctvom obsahových údajov mediálny obsah manipulovaný umelou inteligenciou.
Aplikácia obsahových údajov reprezentuje spoločnú snahu šírenú iniciatívou autenticity obsahu (CAI) a koalíciou prevenance obsahu a autenticity (C2PA), v ktorej figuruje EFE Agentúra, Google, Intel, Microsoft, OpenAI, Adobe a samotný TikTok. Adaptná technológia integruje metadáta do obrázkov, či už fotografií, videí alebo ilustrácií, sledujúc ich úpravy, aby používatelia mohli identifikovať ich pôvod.
Ako predčasný účastník medzi sociálnymi sieťami, TikTok si kladie za cieľ posilniť svoju komunitu pri rozhodovaní medzi autentickými vytvoreniami a fabrikovaným obsahom. OpenAI, tvorcovia ChatGPT, už predtým oznámili, že ich systémy, ako napríklad tvorca obrázkov DALL.E 3 a generátor videí Sora, budú využívať túto technológiu atribúcie. Podobne Meta v februári oznámila svoje úmysly označiť syntetický obsah na Facebooku a Instagrame.
Urgencia takýchto opatrení zdôrazňuje nával obrázkov generovaných umelou inteligenciou online, ktorý sa odhaduje na približne 15 miliárd od roku 2022 do polovice roku 2023. Ako platfomy ako TikTok prijímajú tieto inovácie, používatelia môžu očakávať väčšiu istotu obsahu vo svojich zážitkoch so sociálnymi médiami.
Téma implementácie TikToku technológie identifikácie obsahu AI na označovanie média ako buď manipulovaného AI, alebo autenticky vytvoreného človekom je prepojená s širšími diskusiami o integrity mediálneho obsahu a boji proti dezinformáciám. Tu sú ďalšie fakty, kľúčové otázky, výzvy, kontroverzie, výhody a nevýhody súvisiace s touto témou:
Fakty:
– Nárast deepfakes a syntetických médií priviedol mnoho platforiem k hľadaniu spôsobov označovania obsahu, ktorý bol vygenerovaný alebo upravený umelou inteligenciou.
– Obsahové údaje majú za cieľ zvýšiť digitálnu mediálnu gramotnosť, umožňujú používateľom lepšie informované rozhodovanie o obsahu, ktorý konzumujú.
– Systémy AI sa stávajú čoraz sofistikovanejšími, čo komplikuje pre priemerného používateľa identifikáciu upraveného obsahu bez pomoci.
Dôležité otázky a odpovede:
– O: Prečo je identifikácia obsahu dôležitá vo svete sociálnych médií?
– O: Je to kritické na zastavenie šírenia dezinformácií a na pomáhanie používateľom dôverovať obsahu, ktorý vidia, čo je nevyhnutné v digitálnom veku, kde upravený obsah môže byť použitý na klamlivé alebo škodlivé účely.
– O: Ako funguje technológia identifikácie obsahu AI?
– O: Táto technológia typicky analyzuje digitálne médiá na detekciu známok manipulácie, ktoré nie sú pre ľudí ľahko pochopiteľné, a priradzuje metadáta, ktoré sledujú vytváranie a úpravy obsahu.
Kľúčové výzvy a kontroverzie:
– Vyvažovanie transparentnosti s ochranou súkromia a práv tvorcov môže byť zložité; tvorcovia nemusia chcieť, aby sa každá zmena zaznamenala, a ochrancovia súkromia sa často bránia rozsiahlemu akumulovaniu metadát.
– Zabezpečenie, aby používaná AI technológia spoľahlivo rozlišovala medzi autentickým a manipulovaným obsahom, je výzva.
– Existuje potenciálne riziko zneužitia označovania, kde by obsah mohol byť nespravodlivo alebo nesprávne označený, čo vyvoláva obavy z cenzúry.
Výhody:
– Podporuje transparentnosť a pomáha bojovať proti rozširovaniu nepravdivých informácií.
– Pomáha používateľom pri informovaní sa o tom, čomu môžu dôverovať online.
– Nastavuje precedent pre ostatné sociálne média v oblasti zodpovednosti za obsah.
Nevýhody:
– Metadáta môžu byť zle interpretované alebo manipulované, čo vedie k dezinformáciám o dezinformáciách.
– Existuje potenciál pre nadmernú závislosť na technológii detegovania manipulovaného obsahu, čo môže z nej urobiť oporu pre kritické myslenie používateľov.
Súvisiace odkazy:
Pre viac informácií o širšom kontexte sa môžete pozrieť na hlavné webové domény organizácií a technologických spoločností zapojených:
– Iniciatíva autenticity obsahu
– Koalícia prevenance obsahu a autenticity
– Meta
– Google
– Intel
– Microsoft
– OpenAI
– Adobe
– TikTok
Upozorňujeme, že tieto URL odkazujú na hlavné domény, ktoré sú dôveryhodné a obvykle považované za platné zdroje informácií na túto tému.