Jelikož sa blíži volebná sezóna v Indii, rastú obavy o vplyv hlbokých falošných obrázkov a videí vytvorených pomocou umelej inteligencie (AI) na politické kampane. Hlboké falošné videá a obrázky sa stali v nedávnej dobe čoraz všadeprítomnejšími a sofistikovanejšími. Dokážu manipulovať prejavy a vzhľady politikov, vytvárajúc pocit pochybností a nedôvery medzi voličmi.
S dostupnosťou lacných dát pre mobily a vysokou penetráciou smartfónov v Indii existujú obavy, že hlboké falošné veci by sa mohli šíriť prostredníctvom platforiem ako WhatsApp, ovplyvňujúc rozhodnutia voličov alebo ich nútiť kladenie otázok k významu ich hlasov.
Ministerstvo elektroniky a informačných technológií Indie nedávno vydalo odporúčanie pre generatívne AI spoločnosti. Odporúčanie hovorí, že ak tieto spoločnosti ponúkajú AI systémy, ktoré sú stále v teste alebo nedôveryhodné, musia získať explicitné povolenie od vlády a príslušne označiť výstupy. Cieľom je zabrániť vytváraniu nezákonného alebo zavádzajúceho obsahu, ktorý by mohol podkopať volebný proces.
FAQ:
Čo sú hlboké falošné (Deepfakes)? – Hlboké falošné sú syntetické a realistické obrazy a videá vytvorené pomocou umelej inteligencie, ktoré dokážu manipulovať výzvy a vzhľady osôb.
Odporúčanie sa však stretlo s ostrou nevraživosťou od národných aj medzinárodných hráčov v oblasti umelej inteligencie. Mnohí tvrdia, že bráni inovácii a slobode prejavu. Štátny ministerský pre elektroniku a IT, Rajeev Chandrasekhar, upresnil, že odporúčanie sa nevzťahuje na start-upy, čo ponúklo istú úľavu. Napriek tomu, obavy z nežiaduceho využitia technológie AI pretrvávajú.
Na základe týchto obáv založil Senthil Nayagam, zakladateľ start-upu Muonium AI, „Manifest etického koalície AI“ pred nadchádzajúcimi voľbami. Tento manifest si kladie za cieľ zabezpečiť, aby technológie AI boli používané zodpovedne a neovplyvnili voľby, šírenie dezinformácií alebo eróziu verejnej dôvery k politickým inštitúciám. Nayagam oslovil približne 30 spoločností, z ktorých dve už podpísali manifest a tri sa ešte chystajú ho podpísať.
Nie všetky vytvorené programy umelej inteligencie sú hlboké falošné určené na hanobenie oponentov. Niektoré aplikácie, ako napríklad personalizované interaktívne telefonáty, slúžia skôr ako novinky než ako hrozba pre integritu volieb. Napríklad politické strany v Indii použili syntetizované hlasy na odosielanie prednahratých správ adresovaných jednotlivým voličom podľa mena. Aj keď sa tieto aplikácie môžu zdať neškodné, je dôležité zvážiť potenciálny zneužitie.
Divyendra Singh Jadoun, tvorca umelej inteligencie známy pod menom The Indian Deepfaker, trenoval hlasové a video AI modely na distribúciu šitéch správ pre politické strany. Tvrdí, že pracuje na „etických“ tvorbách AI, ako sú autorizované preklady a obnovenie zosnulých vodcov s súhlasom strany. No zároveň uznáva, že keďže sa technológia hlbokého falšovania stáva dostupnejšou, strany stále viac vytvárajú vlastné deepfake, čím sa uľahčuje šírenie dezinformácií.
Zdroje:
– [MarketsandMarkets Deepfake Market Report](#)
– [Deepfake Detection](#)
**Číslo 1**
**Adresa:** [www.cislo1.sk](#)
The source of the article is from the blog maestropasta.cz