V našej modernej dobe sa Generatívna umelej inteligencie (GenAI) stala mocným nástrojom, ktorý umožňuje používateľom rýchlo a lacno vytvárať realistické obrazy, videá, zvuky a texty. Aj keď má tieto schopnosti mnoho prospešných aplikácií, je dôležité byť si vedomý potenciálneho zneužitia GenAI počas volieb. Výskumníci na Carnegie Mellon University prevzali iniciatívu informovať voličov o rizikách a manipulatívnych taktikách, ktoré môžu používať neetické strany, najmä zahraniční protivníci, na klamstvo a dezinformácie amerických voličov.
Príručka vytvorená Carnegie Mellon University slúži ako nevyhnutný zdroj informácií, s cieľom oboznámiť verejnosť o nebezpečenstvách spojených s používaním GenAI vo voľbách. Namiesto citátov sa zdôrazňuje hrozba pre našu demokraciu vyrobením presvedčivých informácií. Hoda Heidari, líder Responsible AI Initiative na Carnegie Mellon University’s Block Center for Technology and Society, zdôrazňuje dôležitosť porozumenia schopnostiam a rizikám spojeným s GenAI.
Jedným z kľúčových aspektov pokrytých v príručke je, ako môžu voliči aktívne podporovať integritu demokratického procesu. Príručka usiluje o posilnenie jednotlivcov tým, že podnecuje voličov na kritické skúmanie tvrdení, s ktorými sa stretávajú na sociálnych médiách, a skúmanie zdrojov informácií, aby mohli rozhodovať na základe informovaných rozhodnutí. Kathleen M. Carleyová, riaditeľka Centra pre informovanú demokraciu a sociálnu kybernetickú bezpečnosť na Carnegie Mellon, poukazuje na to, ako GenAI môže narušiť demokratický proces prostredníctvom tvorby fikcií, fiktívnych voličov a falošných vyjadrení.
Okrem toho príručka zvyšuje povedomie o potenciálnych škodách GenAI, vrátane potlačovania hlasov, šírenia propagandy a vytvárania pochybností a neistoty okolo demokratického procesu. Tieto taktiky môžu výrazne ovplyvniť výsledky volieb a poskytnúť neprimeraný vplyv tým, ktorí zneužívajú GenAI na svoje agendy.
Na riešenie týchto obáv navrhujú autori príručky, aby sme oslovili zákonodarcov, aby podporovali prísnejšie regulácie umelej inteligencie a informovali sa o použití GenAI kandidátmi v ich kampaňách. Týmto spôsobom voliči môžu aktívne prispievať k zmierňovaniu rizík spojených s GenAI v politike.
Príručka bola vypracovaná ako súčasť iniciatívy Responsible AI na Carnegie Mellon University v spolupráci s Centrom pre informovanú demokraciu a sociálnu kybernetickú bezpečnosť. Príručka sa snaží poskytnúť cenné informácie a praktické kroky tak, aby voličom poskytla potrebné vedomosti na ochranu demokratického procesu pred potenciálnym manipuláciou a klamstvami umožnenými pomocou GenAI.
Často kladené otázky:
1. Čo je Generatívna umešná inteligencia (GenAI)?
– Generatívna umešná inteligencia (GenAI) je mocný nástroj, ktorý umožňuje používateľom rýchlo a lacno vytvárať realistické obrazy, videá, zvuky a texty.
2. Aké sú potenciálne riziká GenAI počas volieb?
– Potenciálne riziká GenAI počas volieb zahŕňajú vytváranie presvedčivej, ale falošnej informácie, vytváranie fiktívnych voličov, šírenie propagandy a narúšanie viery v demokratický proces.
3. Ako môžu jednotlivci podporovať integritu demokratického procesu?
– Jednotlivci môžu podporovať integritu demokratického procesu tým, že kriticky skúmajú tvrdenia, s ktorými sa stretávajú na sociálnych médiách, skúmajú zdroje informácií a rozhodujú sa na základe spoľahlivých zdrojov.
4. Ako môžu voliči zmieriť riziká GenAI v politike?
– Voliči môžu zmieriť riziká GenAI v politike tým, že sa obrátia na zákonodarcov, aby podporovali prísnejšie regulácie umelej inteligencie a informovali sa o používaní GenAI kandidátmi v ich kampaniach.
Kľúčové pojmy a žargón:
– GenAI: Skratka pre Generatívnu umešnú inteligenciu, nástroj umožňujúci vytváranie realistického digitálneho obsahu.
– Propaganda: Informácie alebo myšlienky, ktoré sa šíria s cieľom manipulovať verejnú mienku alebo podporovať určitú príčinu alebo presvedčenie.
– Fiktívny: Niečo, čo je nepravdivé alebo imaginárne.
Navrhované odkazy:
– cmu.edu (oficiálna webová stránka Carnegie Mellon University)
The source of the article is from the blog portaldoriograndense.com