Lidia Perska5. septembra kancelária generálneho prokurátora New Yorku zverejnila smernicu zameranú na ochranu voličov pred dezinformáciami generovanými umelou inteligenciou (AI) v nadchádzajúcich novembrových voľbách. Táto iniciatíva zdôrazňuje rastúce obavy týkajúce sa potenciálnych rizík, ktoré predstavujú technológie AI v rámci voľbového procesu.
Letitia James, generálna prokurátorka štátu, vyzdvihla hrozby, ktoré predstavujú technológie deepfake, ktoré môžu ľahko šíriť falošné informácie o kandidátoch, politických návrhoch, a dokonca aj logistike hlasovania. Takéto dezinformácie môžu podrývať integritu demokracie a zavádzať voličov v kritických momentoch.
Aby sa tento problém riešil, jej kancelária povzbudzuje verejnosť, aby overovala detaily o miestach hlasovania, časoch a spôsoboch priamo so štátnymi a lokálnymi volebnými orgánmi. Spoľahnutie sa výlučne na chatbota pre také dôležité informácie môže viesť k nepresnostiam.
Ďalej kancelária generálneho prokurátora radí jednotlivcom hlásiť akýkoľvek podozrivý obsah deepfake, ktorý sa objaví na platformách sociálnych médií. Je nevyhnutné porovnávať informácie z oficiálnych kanálov s informáciami z neoficiálnych zdrojov. Opatrnosť je kľúčová pri stretávaní sa so senzáciou vyvolávajúcimi tvrdeniami, obrázkami alebo videami súvisiacimi s volebnými aktivitami, pretože nemusia predstavovať pravdu.
Byť informovaný prostredníctvom spoľahlivých zdrojov je nevyhnutné na zabezpečenie integrity volebného procesu a smernice sú k dispozícii na webovej stránke kancelárie generálneho prokurátora.
Nové opatrenia v New Yorku na boj proti dezinformáciám generovaným AI pred voľbami
Keď sa New York pripravuje na nadchádzajúce novembrové voľby, generálna prokurátorka štátu Letitia James predstavila ďalšie opatrenia na riešenie rastúceho prílivu dezinformácií generovaných AI. Tieto iniciatívy sa nielenže zameriavajú na ochranu voličov, ale aj zdôrazňujú širšie implikácie vplyvu AI na demokratické procesy.
Aké sú kľúčové otázky týkajúce sa AI vo voľbách?
1. Ako sa dezinformácie generované AI porovnávajú s tradičnými dezinformáciami?
Dezinformácie generované AI často využívajú pokročilé technológie, ako sú deepfake a spracovanie prirodzeného jazyka, čo ich robí ťažšie rozpoznateľnými v porovnaní s tradičnými formami dezinformácií. Táto sofistikovaná manipulácia môže vytvárať ešte presvedčivejší obsah, ktorý zavádza voličov.
2. Aké konkrétne kroky podáva kancelária generálneho prokurátora New Yorku?
Okrem verejných vzdelávacích aktivít kancelária generálneho prokurátora posilňuje partnerstvá so sociálnymi médiami na zlepšenie monitorovania obsahu generovaného AI a zlepšenie mechanizmov hlásenia dostupných verejnosti.
3. Existujú právne dôsledky pre tých, ktorí produkujú dezinformácie generované AI?
Hoci v súčasnosti existujú regulácie týkajúce sa volebnej dezinformácie, rýchlo sa vyvíjajúca povaha AI predstavuje výzvy pri vynucovaní týchto zákonov. Kancelária generálneho prokurátora zvažuje aktualizácie existujúcich zákonov, aby lepšie zohľadnila jedinečné charakteristiky obsahu generovaného AI.
Kľúčové výzvy a kontroverzie
Jednou z najvýznamnejších výziev je delikátna rovnováha medzi slobodou prejavu a reguláciou dezinformácií. Kritici tvrdia, že príliš prísne opatrenia môžu porušovať práva jednotlivcov vyjadriť svoj názor alebo zdieľať informácie. Okrem toho rýchly pokrok technológie AI predchádza legislatívnym snahám, čo sťažuje reguláciám držať krok s novými nástrojmi používanými na dezinformácie.
Ďalšou kontroverziou je potenciálna zaujatost v samotných AI systémoch. Ak sú AI modely používané na detekciu dezinformácií trénované na zaujatých údajoch, môžu neúmyselne cenzurovať legitímny obsah, zatiaľ čo sa im nepodarí zachytiť škodlivé dezinformácie. To vyvoláva kľúčové otázky o tom, ako sú takéto detekčné systémy vyvíjané a aké normy sú používané.
Výhody a nevýhody nových opatrení
Výhody:
– Zvýšená ochrana voličov: Informovaním verejnosti o rizikách dezinformácií generovaných AI sú voliči lepšie vybavení na overenie informácií a informované rozhodovanie.
– Zvýšená zodpovednosť za dezinformácie: Podporovanie hlásenia dezinformácií môže viesť k včasným zásahom a odstráneniu škodlivého obsahu zo sociálnych médií.
Nevýhody:
– Potenciálne cenzúrovanie: Existuje riziko, že legitímna politická diskusia by mohla byť potlačená pod zámienkou boja proti dezinformáciám, čo by viedlo k menej informovanej voličskej základni.
– Náročné na zdroje: Implementácia týchto opatrení si vyžaduje značné zdroje od kancelárie generálneho prokurátora a spoločností sociálnych médií, čo by mohlo odvrátiť pozornosť od iných dôležitých iniciatív.
Na záver, hoci proaktívne opatrenia New Yorku proti dezinformáciám generovaným AI sú potrebné v dnešnej digitálnej dobe, prinášajú aj významné výzvy, ktoré si vyžadujú starostlivé zváženie. Ako sa voľby blížia, bude pre voličov kľúčové zostať ostražitými a informovanými.
Pre viac informácií o tejto téme navštívte kanceláriu generálneho prokurátora New Yorku na ag.ny.gov.
