V lednu automatizovaná hovorová volání napodobující hlas prezidenta Joea Bidena vyzvala podporovatele Demokratické strany v New Hampshire, aby se zdrželi hlasování až do prezidentských voleb v listopadu. Tato RoboCalls, předstírající věrohodnou imitaci prezidenta Bidena, vedla některé podporovatele strany k přehodnocení svého hlasování v lednu.
Tato předstíraná osoba nebyla skutečné prohlášení prezidenta Bidena, ale umělý hlas vytvořený pomocí umělé inteligence (AI). Jedna z osob zapojených do těchto volání později uvedla, že cílem bylo prokázat potenciál AI ovlivnit chování voličů.
Technologické manipulace ve volbách nejsou novinkou; jak sociální média, tak pozměněný obsah ovlivnily názory voličů v minulých prezidentských kampaních. Izolovaným příkladem je manipulované video, které zobrazilo bývalou předsedkyni Sněmovny Nancy Pelosiovou v nepříznivém a nepravdivém světle a rychle se šířilo online. Průzkumy ukazují, že téměř dvě třetiny uživatelů internetu ve Spojených státech uznávají rozšířené šíření dezinformací a falešných zpráv na sociálních médiích.
Jako generativní nástroje AI, schopné vytvářet autenticky se jevící texty, obrázky, videa a zvuk, se stávají stále přístupnějšími a představují zvýšené riziko šíření dezinformací v budoucích volbách. Adobe, známá pro vývoj Photoshopu, patří mezi společnosti poskytující generativní nástroje AI jako Firefly. Technologické giganty jako Anthropic, Google, Microsoft a OpenAI také nabízejí různé AI-řízené chatboty a služby generování obrazů, znovu zdůrazňujíce potenciální zneužití vedle svých kreativních aplikací.
„Dezinformace 2.0“
Zpráva neziskového výzkumného ústavu pro veřejnou politiku Brennan Center for Justice naznačuje, že generativní nástroje AI mohou bezproblémově proplétat lži do informačních ekosystémů a potenciálně zvyšovat důvěryhodnost organizovaných kampaní dezinformací. Zneužití AI může pomoci zákeřným aktérům vytvářet důvěryhodnější a personalizovaný obsah, ovlivňující vnímání široce.
Průzkum společnosti Adobe odhalil, že voliče znepokojuje možné využití deepfake (manipulovaných médií) k ovlivňování volebních rozhodnutí. Obrovská většina amerických respondentů má obavy z jednoduché úpravy online obsahu, kladou otázky k férnosti voleb a potýkají se s ověřováním důvěryhodnosti takového obsahu. Sociální média jako Meta, TikTok a YouTube začala implementovat označení pro digitálně generovaný nebo upravený obsah, signalizující krok směrem k transparentnosti.
„Potenciální řešení“
Po napodobenině Bidenových robokal vznesených v New Hampshire, učinila Americká federální komise pro komunikace (FCC) rozhodnutí, že AI-generovaná hlasová volení jsou nezákonná. Neziskové think-tanky jako The Brookings Institution navrhují investice do mediální gramotnosti, aby voliči mohli rozlišit mezi faktem a dezinformací. Na úrovni vlády jsou navrhována další spolupráce s technologickými společnostmi a regulativní pozornost k AI, aby se zaručila integrita budoucích voleb.
„Ochrana před dezinformacemi a falešnými informacemi“
Platí rovněž za uživatele, aby byli schopni rozpoznat AI-generovaný obsah. Zkontrolovat spolehlivost zdroje a využívání nástrojů ke kontrole faktů jako jsou vodoznaky sociálních médií a „kontrolní certifikáty“ od společnosti Adobe je zásadní. Ačkoli státy jako Nové Mexiko a Severní Karolína nabízejí zdroje pro ověřování faktů pro místní volby, zdroje na národní úrovni zůstávají vzácné. Vzdělávání prostřednictvím neziskových kampaní se rozvíjí, s iniciativami AIandYou zaměřenými na komunity nejvíce postižené dezinformacemi.
V době generativního AI se stává stále zásadnějším využít všechny dostupné zdroje pro informovanou účast v demokratických procesech.
„Důležité otázky a odpovědi“
1. Jaké důsledky má napodobování hlasu pomocí AI pro povědomí voličů?
Napodobování hlasu pomocí AI může vést k šíření dezinformací a odzbrojování voličů distribucí zfalšovaných zpráv údajně důvěryhodných zdrojů. To vyžaduje vyšší úrovně ostražitosti mezi voliči při ověřování informací, které obdrží.
2. Jak reagovala FCC na zavádějící použití AI-generovaných robokalů?
Americká federální komise pro komunikace (FCC) rozhodla, že AI-generovaná hlasová volání jsou nezákonná jako odpověď na zavádějící praktiky, jako bylo incident se zfalšovanými robokoly Bidenem.
3. Jaká řešení se navrhují k boji proti AI-generovaným dezinformacím?
Mezi potenciální řešení patří investice do programů mediální gramotnosti, regulativní pozornost k AI, spolupráce mezi vládou a technologickými společnostmi a využití ověřovacích nástrojů jako jsou digitální otisky citlivých na obsah.
„Klíčové výzvy nebo kontroverze“
– Rovnováha mezi svobodou projevu a regulací AI-generovaného obsahu zůstává obtížnou otázkou.
– Technologické společnosti čelí tlaku efektivně kontrolovat své platformy bez porušení práv uživatelů.
– Zajištění toho, aby veřejné vzdělávací iniciativy dosáhly širokého publika, je značnou výzvou vzhledem k digitální propasti a různým úrovním mediální gramotnosti.
– Trvající závod ozbrojení mezi tvůrci deepfake a detekčními nástroji představuje technickou výzvu.
„Výhody a nevýhody“
„Výhody“
– AI může zlepšit kreativitu a inovace v různých oblastech.
– Používaná eticky může mít AI napodobování hlasů praktické aplikace, jako je zábava nebo pomoc jednotlivcům s poruchami řeči.
„Nevýhody“
– AI-generované dezinformace mohou podkopat demokracii a vyžrat důvěru v média a politiky.
– Deepfaky a napodobování hlasu pomocí AI mohou vést k osobní sabotáži a politické destabilizaci.
– Složitost AI-generovaného obsahu komplikuje rozlišení mezi skutečným a falešným, matoucí voliče a šířící dezinformace.
„Navržené příbuzné odkazy“
– Americká federální komise pro komunikace (FCC)
– Brennan Center for Justice
– The Brookings Institution
– Adobe
– Meta
– TikTok
– YouTube
– Google
– Microsoft
– OpenAI
– Anthropic
Ujistěte se, že jsou vyvinuty všechny úsilí k podpoře mediální gramotnosti a transparentní komunikace pro zachování integrity demokratických procesů v době generativní AI.
The source of the article is from the blog kewauneecomet.com