V nadcházející volební sezóně se šíření dezinformací stává hlavní obavou lidí jako je Jency Jacob, šéfredaktor BoomLive. Zatímco Jacob a jeho tým aktivně pracují na potírání falešných zpráv šířených přes internet a sociální média, vzestup umělé inteligence (AI) způsobil komplikace.
Jedním z největších výzev této volební sezóny je využití nových technologií, jako je AI, různými stranami. Během nedávných státních voleb došlo k nárůstu používání AI-generovaného klonového zvuku k manipulaci voličů. S rozvojem technologie se stává stále obtížnější takové podvody odhalit.
V indickém kontextu došlo k nárůstu používání „levných padělků“, ale zatím ne k hlubokým padělkům. Jacob zdůrazňuje konkrétní incident, který se stal virálním loňským rokem. Ve videoklipu byl použit falešný dabing slavného herce Amitabha Bachchana, který položil urážlivou otázku účastníkovi populární televizní show. Obsah byl škodlivý, protože představoval tehdy státního ministra Shivraje Singha Chouhana jako zločince. Navzdory snahám prokázat jeho autentičnost, klip si již shlédlo a sdílelo miliony lidí, což způsobilo značné škody.
K řešení těchto výzev Jacobův tým spolupracuje s týmem pro dezinformace ve společnosti Meta, která zahrnuje Facebook, WhatsApp a Instagram. Snaží se identifikovat hluboké padělky, avšak osud označeného obsahu je nejistý. Na druhé straně je spolupráce s Googlem frustrující, neboť se nechovají spolupracovně a jejich algoritmy zůstávají neproniknutelné.
Google však odmítá obvinění z nedostatečné moderace obsahu. Tvrdí, že jejich systém doporučování je založen na principech, které obstály v čase. Společnost zdůrazňuje, že jejich systémy jsou pravidelně aktualizovány a moderace obsahu spočívá jak v manuální, tak v automatizované revizi obsahu.
Před blížící se volební sezónou je důležité realisticky posoudit potenciální šíření dezinformací. Počet oznámení o nesprávném obsahu může narůst a technologické společnosti mohou čelit tlaku na odstranění nepříjemných zpráv. Zatímco Google může takovým tlakům odolávat, vysoký pracovník společnosti uznává, že poptávka po kontrole a potlačení informací se zvyšuje, když jsou politici u moci.
Závěrem lze konstatovat, že příchod nových technologií jako je AI přináší významné výzvy v boji proti dezinformacím během volebních sezón. Navzdory úsilí jednotlivců jako je Jency Jacob zůstává šíření falešných zpráv důležitým problémem, zejména když mocné subjekty jako Google nedokáží účinně spolupracovat v boji proti této situaci.
The source of the article is from the blog papodemusica.com