V blížiacej sa volebnej sezóne v Indii sa objavujú obavy o vplyv deepfake umelé inteligencie (AI) na politické kampane. Deepfakes, čo sú syntetické a realistické obrazy a videá, sa stali v posledných rokoch čoraz bežnejšími a sofistikovanejšími. Dokážu manipulovať prejavy a výzory politikov, vytvárajúc pocit pochybností a nedôvery medzi voličmi.
S dostupnosťou lacných mobilných dát a vysokou penetráciou smartfónov v Indii existujú obavy, že deepfakes by sa mohli šíriť cez platformy ako WhatsApp, ovplyvňujúc rozhodnutia voličov alebo vyvolávajúc otázky o význame ich hlasov.
Ako odpoveď na tieto obavy, indické Ministerstvo elektronike a informačných technológií nedávno vydalo odporúčanie pre spoločnosti zaoberajúce sa generatívnou umelej inteligenciou. Odporúčanie uvádza, že ak tieto spoločnosti ponúkajú AI systémy, ktoré sú stále vo fáze testovania alebo nie sú spoľahlivé, musia získať výslovné povolenie od vlády a náležite označiť výstupy. Cieľom je zabrániť vytváraniu nelegálneho alebo zavádzajúceho obsahu, ktorý by mohol podkopať volebný proces.
Toto odporúčanie však narazilo na tvrdú kritiku nielen zo strany národných, ale aj medzinárodných hráčov v oblasti umelej inteligencie. Mnohí tvrdia, že bráni inovácii a slobode prejavu. Minister štátu pre elektroniku a informačné technológie, Rajeev Chandrasekhar, objasnil, že toto odporúčanie sa nevzťahuje na startupy, čo poskytlo istú úľavu. Napriek tomu však obavy o zneužívaní technológie AI pretrvávajú.
Na odozvu na tieto obavy založil Senthil Nayagam, zakladateľ startupu Muonium AI, „Manifest etickej koalície AI“ pred voľbami. Tento manifest si kladie za cieľ zabezpečiť, aby technológie AI boli používané zodpovedne a nenarušovali voľby, šírili nepravdivé informácie alebo neoslabovali verejnú dôveru v politické inštitúcie. Nayagam oslovil okolo 30 spoločností, pričom dve už podpísali manifest a tri sú v procese podpisu.
Nie všetky tvory AI sú zlomyseľné deepfakes určené na hanobenie oponentov. Niektoré aplikácie, ako napríklad personalizované interaktívne telefónne hovory, slúžia skôr ako novely než ako hrozby pre integritu volieb. Napríklad politické strany v Indii použili syntetizované hlasy na zaslanie prednahratých oznámení, ktoré oslovujú individuálnych voličov ich menom. Aj keď sa tieto aplikácie môžu javiť neškodne, je dôležité zvážiť potenciálne zneužitie.
Divyendra Singh Jadoun, tvorca AI známy ako The Indian Deepfaker, vychoval hlasové a video AI modely na distribúciu prispôsobených správ pre politické strany. Tvrdí, že pracuje na „etických“ tvoroch AI, ako sú autorizované preklady a oživenie zosnulých vodcov, s súhlasom strany. Avšak uznáva, že s nárastom prístupnosti deepfake technológie strany čoraz viac produkujú vlastné deepfakes, čo zjednodušuje šírenie dezinformácií.
Odborníci v oblasti, ako napríklad Karen Rebelo zo stránky BOOM zameranej na overovanie faktov, zaznamenali významný nárast AI deepfakes počas nedávnych snemovných volieb v Indii. Technológia sa stala lacnejšou a prístupnejšou, umožňujúc každému s notebookom vytvárať deepfakes. To vyvoláva obavy o možný dopad deepfakes na spravodlosť a transparentnosť volieb.
Hoci AI deepfakes sú dôvodom na obavy, majú tiež potenciál byť využité na dobré účely. Technológie AI môžu zohrať pozitívnu úlohu pri posilňovaní demokratického procesu, ako je zlepšenie dostupnosti pre hendikepovaných voličov alebo poskytovanie presných prekladov politických prejavov. Kľúčom je zabezpečiť, aby tieto technológie boli používané eticky a zodpovedne.
Ako sa India pripravuje na nadchádzajúce voľby, je nevyhnutné, aby vláda, spoločnosti AI a politické strany spolupracovali na stanovení jasných smerníc a predpisov pre využitie AI v politických kampaňach. Prioritou je transparentnosť, zodpovednosť a integrita volebného procesu, aby India vedela využiť potenciál AI a zároveň zmierniť riziká, ktoré predstavuje.
Vplyv a obavy týkajúce sa deepfakes v politických kampaňach nie sú obmedzené len na Indiu. Použitie technológie deepfake sa stalo globálnym problémom, s dôsledkami pre rôzne odvetvia a trhy.
Priemysel deepfake je pripravený na významný rast v nasledujúcich rokoch. Podľa správy od MarketsandMarkets sa predpokladá, že globálny trh s deepfake dosiahne hodnotu 304,3 milióna dolárov do roku 2026, s ročným rastom 37,3 % od roku 2021 do roku 2026. Tento rast trhu je možné pripísať zvyšujúcemu sa využitiu AI technológií a rastúcej povedomosti o deepfakes.
Potenciálny vplyv deepfakes presahuje hranice politických kampaní. Odvetvia ako zábavný priemysel, kybernetická bezpečnosť a žurnalistika tiež čelia výzvam spojený s technológiou deepfake. V zábavnom priemysle napríklad deepfakes môžu byť použité na manipuláciu vzhľadov hercov alebo na vytváranie realistických virtuálnych avatarov. To vyvoláva obavy o súkromie, práva duševného vlastníctva a autenticitu obsahu.
V oblasti kybernetickej bezpečnosti predstavujú deepfakes významnú hrozbu. Falošné videá a obrazy možno použiť na klamanie jednotlivcov alebo získanie neoprávneného prístupu k systémom. Kyberkriminalisti môžu využívať deepfakes na vytváranie presvedčivých phishingových útokov alebo na manipuláciu digitálneho dôkazu počas právnych procesov.
Žurnalistika je ďalším odvetvím postihnutým deepfake. Šírenie dezinformácií a erózia verejnej dôvery sú významné výzvy, ktorým novinári čelia v dobe deepfakes. Novinárske organizácie musia vyvinúť spoľahlivé techniky overovania faktov a vyškoliť verejnosť v detekcii a overovaní autenticity obsahu.
Na zmiernenie negatívneho vplyvu deepfakes vznikli rôzne iniciatívy a organizácie. Jednou z takýchto iniciatív je Deepfake Detection Challenge (DFDC), organizovaná v spolupráci medzi Facebookom, Microsoftom, Partnerstvom pre AI a niekoľkými akademickými inštitúciami. Cieľom DFDC je vypracovať a rozvíjať metódy detekcie na identifikáciu deepfakes, pomáhajúc obmedziť ich šírenie.
Zodpovednosť za riešenie problému deepfakes presahuje vládne predpisy a iniciatívy odvetví. Jednotlivci musia mať tiež povedomie o existencii deepfakes a musia byť opatrní pri konzumácii a šírení obsahu. Overovanie informácií, overovanie zdrojov a podpora médií sú nevyhnutné kroky pri boji proti šíreniu deepfakes.
Hoci boj s deepfakes je zložitou úlohou, pokroky v oblastiach AI technológií je možné využiť na vývoj nástrojov na detekciu a zmierňovanie ich vplyvu. Algoritmy strojového učenia možno trénovať na identifikáciu anomálií vo videách alebo obrázkoch a na rozlišovanie medzi autentickým a manipulovaným obsahom. Trvalý výskum a spolupráca medzi technologickými spoločnosťami, výskumníkmi a tvorcami politík sú kľúčové pre účinné riešenie výziev súvisiacich s deepfakes.
Related links:
– [MarketsandMarkets Deepfake Market Report](https://www.marketsandmarkets.com/)
– [Deepfake Detection](https://www.example.com/)
The source of the article is from the blog publicsectortravel.org.uk