Umelá inteligencia (AI) sa stala významnou tézou v kontexte volieb, nakoľko má potenciál vytvoriť dezinformačné kampane prostredníctvom šírenia falošných novín a propagandy. Táto nová technológia, najmä deepfakes, predstavuje závažné nebezpečenstvo pre integritu volieb a šírenie nepravdivých informácií.
Využitie AI na manipuláciu verejnej mienky už bolo pozorované počas predchádzajúcich volieb v USA. V jednom prípade zosilňovacie hovory generované AI zosobňovali amerického prezidenta Joea Bidena, aby obmedzili účasť voličov. Tieto kampane sa môžu sústrediť na konkrétne demografické skupiny alebo regióny s prispôsobenými správami určenými na manipuláciu verejnej mienky.
Mikrocielenie je technika využívaná AI algoritmami na analýzu obrovských množstiev údajov a vytváranie veľmi konkrétnych profilov jednotlivých voličov. Tieto profily môžu byť potom použité na cielenie ľudí personalizovanými správami, reklamami a dokonca aj dezinformáciami, ktoré využívajú ich zraniteľnosti alebo predsudky. Táto technika bola známa použitím Cambridge Analytica počas volieb v USA v roku 2016.
Vplyv AI na manipuláciu volieb nie je obmedzený na domáce subjekty. Entity s podporou štátu, ako Rusko a Čína, tiež môžu využiť AI na vytváranie zmätku a podkopanie dôvery v volebný proces. Americké tajné služby už vydali varovania týkajúce sa možného využitia AI týmito krajinami na ovplyvňovanie volieb v USA.
Technológia deepfake sa tiež stala narastajúcim problémom. Deepfakes sa vzťahujú na zneužitie AI na vytváranie zdá sa reálnych prejavov a vizuálnych podôb jednotlivcov, vrátane celebrít a politikov. Dôsledky deepfakes vo voľbách sa stali zjavnými, keď sa objavilo video AI-generovaného deepfake zosobnenia bývalého predsedu Tamil Nadua, M Karunanidhi, podporujúceho kandidáta. Toto video bolo tretím pokusom o vygenerovanie deepfake AI bývalého politika počas šiestich mesiacov.
Potenciálna škoda spôsobená deepfakes spočíva v ich schopnosti vytvárať úplne zmanipulovaný obsah, ako sú prejavy alebo rozhovory, ktoré možno použiť na diskreditáciu kandidátov alebo šírenie nepravdivých informácií. Toto predstavuje závažné nebezpečenstvo pre integritu volieb, keďže AI-generované videá a zvuky deepfake môžu presvedčivo zobrazovať jednotlivcov hovoriacich alebo konajúcich veci, ktoré nikdy neurobili.
AI je tiež schopná manipulovať algoritmy na platformách sociálnych médií na zvýšenie rozdielneho obsahu, propagovanie určitých názorov a potlačenie protichodných hlasov. Táto manipulácia môže ovplyvňovať verejný dojem a zároveň znesťažovať rozlíšenie medzi skutočnou ľudskou aktivitou a automatizovanou manipuláciou.
Vzhľadom na potenciálnu škodu spôsobenú AI vo voľbách podpísalo 20 technologických spoločností, vrátane Google, IBM, Amazon, Microsoft a Facebook, Tech Accord to Combat Deceptive Use of AI. Tento dohovor si kladie za cieľ zaoberať sa zneužitím AI a podporovať etické postupy pri jeho vývoji a nasadení.
Na záver, vzostup AI predstavuje významné hrozby pre integritu volieb, vrátane šírenia dezinformácií prostredníctvom falošných novín a deepfakes. Je životne dôležité, aby vlády, technologické spoločnosti a spoločnosť ako celok boli bdelé a aktívne pri ochrane demokratických procesov pred týmito novými výzvami.
Často kladené otázky
1. Čo je AI mikrocielenie?
Mikrocielenie je technika, ktorá využíva AI algoritmy na analýzu veľkého množstva údajov a tvorbu veľmi špecifických profilov jednotlivých voličov. Tieto profily sa potom môžu použiť na cielenie ľudí personalizovanými správami, reklamami a dokonca aj dezinformáciami, ktoré využívajú ich zraniteľnosti alebo predsudky.
2. Čo sú deepfakes?
Deepfakes sa vzťahujú na zneužitie umelej inteligencie na vytváranie zdá sa reálnych prejavov a vizuálnych podôb jednotlivcov. Táto technológia môže vytvárať presvedčivé videá alebo zvuky, ktoré dávajú dojem, že osoba hovorí alebo robí niečo, čo nikdy neurobila.
3. Ako môže AI manipulovať algoritmy na sociálnych médiách?
AI môže manipulovať algoritmy na platformách sociálnych médií, aby zvyšovala rozdielny obsah, propagovala určité názory a potláčala protichodné hlasy. Táto manipulácia môže ovplyvniť verejný dojem a zároveň znesťažovať rozlišovanie medzi skutočnou ľudskou aktivitou a automatizovanou manipuláciou.
Zdroje:
– Zscaler: zscaler.com
– Al Jazeera: aljazeera.com
The source of the article is from the blog mivalle.net.ar