Ako sa svet stáva čoraz viac prepojeným, hrozba voličskej dezinformácie nadobúda nový rozmer s nástupom umelej inteligencie (AI). Táto technológia robí zarážajúco jednoduché pre kohokoľvek s smartfónom a kreatívnou mysľou vytvárať presvedčivý falošný obsah s cieľom zmiasť voličov. Čo kedysi vyžadovalo tímy školených jedincov a významné zdroje, je dnes možné dosiahnuť len niekoľkými jednoduchými krokmi pomocou generatívnych AI služieb poskytovaných spoločnosťami ako Google a OpenAI.
Rozšírenie AI deepfake, najmä v kontexte volieb v Európe a Ázii, už vyvolalo obavy. Tieto deepfake, čo sa týka falošných videí, fotografií alebo zvukov vytváraných umelou inteligenciou, kolujú na sociálnych mediálnych platformách už mesiace a slúžia ako varovanie pre viac ako 50 krajín, ktoré sa budú tento rok volieb zúčastňovať. Majú potenciál významne ovplyvniť výsledky volieb.
Nedávne príklady AI deepfake zahŕňajú video prezidenta Moldavska podporujúceho politickú stranu priateľskú Rusku, zvuk vodcu liberálnej strany na Slovensku hovoriaceho o zmene hlasovacích lístkov a ceny piva, a video opozičného poslanca v Bangladéši, ktorý nosí bikiny – kontroverzný čin v tomto konkrétnom prostredí.
Otázkou, s ktorou sa dnes stretávame, už nie je, či by AI deepfake mohli potenciálne ovplyvniť voľby, ale skôr, ako veľmi budú ovplyvňovať. Henry Ajder, zakladateľ spoločnosti Latent Space Advisory, poradenská spoločnosť v Británii, výstižne poukazuje na to, že ľudia už majú problémy odlišovať realitu od fikcie. Táto zmätok predstavuje značnú výzvu pre integritu demokratických procesov.
Nástup AI deepfake nielenže vyvoláva obavy o vplyv, ktorý môžu mať na voličov, ale tiež podkopáva dôveru verejnosti v to, čo vidia a počujú. Komplexnosť technológie za AI deepfake robí ťažké identifikovať páchateľov zodpovedných za vytváranie a šírenie takéhoto obsahu. Vlády a spoločnosti sa stretávajú s náročným úlohou nájdenia efektívnych spôsobov, ako bojovať s týmto neustále sa vyvíjajúcim problémom, ale súčasné opatrenia nestačia na poskytnutie komplexného riešenia.
Na odpoveď na túto globálnu výzvu sa niektoré z najväčších technologických spoločností dobrovoľne zaviazali zabrániť zneužitiu AI nástrojov počas volieb. Napríklad spoločnosť vlastniaca Instagram a Facebook sa zaviazala označovať deepfake, ktoré sa objavia na ich platformách. Avšak takéto úsilie sa môže stretávať s obmedzeniami na platformách ako Telegram, ktorý sa dobrovoľnej dohode nepodpísal. Zašifrovaný systém správ Telegram predstavuje jedinečné prekážky pri odhaľovaní a riešení deepfake.
Hoci je nevyhnutné konať proti šíreniu AI deepfake, existujú obavy, že úsilie obmedziť ich šírenie by mohlo neúmyselne potlačiť legitímne politické komentáre. Tim Harper, expert z Centra pre demokraciu a technológie vo Washingtone DC, upozorňuje, že hranica medzi politickou kritikou a pokusmi o diskreditáciu kandidátov môže byť ľahko rozmazaná.
Je tiež dôležité podotknúť, že AI deepfake nie sú jedinou hrozbou pre integritu volieb. Samotní kandidáti by mohli túto technológiu zneužiť na to, aby voličov oklamali tvrdením, že akékoľvek poškodené informácie alebo nepriaznivé udalosti sú výsledkom manipulácie AI. Takéto taktiky ďalej narušujú verejnú dôveru v volebný proces a vedú k svetu, kde skepticismus prevláda a jednotlivci vyberajú svoju vlastnú verziu reality.
Zhrňujúc, nástup AI deepfake predstavuje významné výzvy v dobe voličskej dezinformácie. Ako sa technológia naďalej rozvíja, prináša aj hrozby. Vlády, spoločnosti a jednotlivci musia spoločne pracovať na hľadaní efektívnych protiopatrení, aby zabezpečili integritu volieb. Iba prostredníctvom spoločných úsilia budeme schopní ochrániť dôveru a sebavedomie, ktoré sú nevyhnutné pre fungovanie demokratických spoločností.
Časté Otázky (FAQ)
The source of the article is from the blog be3.sk