Korištenje tehnologije umjetne inteligencije (AI) za ometanje izbora postalo je rastuća zabrinutost, posebno s obzirom na važne izbore koji se održavaju u Indiji, Južnoj Koreji i Sjedinjenim Američkim Državama. Prema izvještaju koji je objavila tvrtka Microsoft, očekuje se da će kineske državom podržane cyber grupe ciljati ove istaknute izbore koristeći AI tehnologiju.
U prethodnom incidentu tijekom taiwanske predsjedničke izborne kampanje, Kina je provela probu koristeći AI-generirani sadržaj kako bi utjecala na ishod izbora. Lažni audio isječci objavljeni su na YouTubeu, prikazujući kako izborni kandidat Terry Gou navodno podržava suparničkog kandidata. Nakon analize, Microsoft je odredio da su isječci “vjerovatno generirani AI-om.”
Izvještaj tima za prijetnje tvrtke Microsoft sugerira da će kineski cyber napadači, zajedno s cyber napadačima iz Sjeverne Koreje u nekim slučajevima, raditi na ciljanju predstojećih izbora u Indiji, Južnoj Koreji i Sjedinjenim Američkim Državama 2024.
Strategija Kine, kako je naznačeno u izvještaju, uključuje stvaranje i distribuciju AI-generiranog sadržaja putem društvenih medijskih platformi kako bi unaprijedili svoje pozicije na tim izborima. Iako bi trenutni utjecaj takvog sadržaja mogao biti ograničen, Kina-ov sve veći eksperimentiranje s nadogradnjom memova, videa i audio snimki moglo bi biti učinkovito u budućnosti.
Tijekom taiwanske izborne kampanje, grupa pod nazivom Storm 1376, podržana iz Pekinga, imala je aktivan ulog u širenju AI-generiranih memova ciljanih na kandidata za suverenitet. Memovi su sadržavali neosnovane tvrdnje optužujući kandidata za pronevjeru, odražavajući Pekingovu opoziciju prema njegovoj kandidaturi.
Izvještaj također ističe kontinuirane kampanje utjecaja koje su organizirale kineske grupe u Sjedinjenim Američkim Državama. Glumci podržani iz Pekinga koriste društvene medijske račune kako bi postavili “rasporede pitanja” i dobili uvid u pitanja koja dijele američke birače. Ti napori vjerojatno su usmjereni na prikupljanje obavještajnih podataka i unapređenje razumijevanja ključnih demografskih podataka za glasno pripremu za predsjedničke izbore u SAD-u.
Dok rastu zabrinutosti oko potencijalnog utjecaja AI tehnologije na izborne procese, važno je da vlade i društvene medijske platforme ostanu budni. Zaštita integriteta izbora zahtijeva proaktivne mjere za suzbijanje širenja AI-generiranog sadržaja koji može iskriviti javno mišljenje.
Česta pitanja
1. Što je AI-generirani sadržaj?
AI-generirani sadržaj odnosi se na bilo koju formu teksta, audio ili vizualnog sadržaja stvorenog ili promijenjenog pomoću sustava umjetne inteligencije. Ti sustavi koriste algoritme i strojno učenje kako bi proizveli sadržaj koji imitira ljudsku kreativnost ili komunikaciju.
2. Kako se AI može koristiti za ometanje izbora?
AI se može koristiti za širenje dezinformacija, lažnih vijesti i propagande tijekom izbornih kampanja. Generiranjem i distribuiranjem sadržaja koji izgleda autentično, AI može potencijalno manipulirati javno mišljenje, utjecati na ponašanje birača ili podrivati vjerodostojnost kandidata.
3. Koja je uloga kineskih državom podržanih cyber grupa u miješanju u izbore?
Vjeruje se da kineske državom podržane cyber grupe igraju značajnu ulogu u ciljanom miješanju u izbore. Te grupe mogu iskoristiti AI tehnologiju za stvaranje i širenje sadržaja koji podržava njihove preferirane kandidate ili se slaže s njihovom političkom agendom. Njihove aktivnosti mogu se kretati od širenja dezinformacija do pokretanja cyber napada protiv izbornih sustava.
4. Što se može učiniti kako bi se zaštitili izbori od ometanja vođenog AI-jem?
Da bi se izbori zaštitili od ometanja vođenog AI-jem, vlade i tehnološke platforme moraju prioritetno detektirati i ukloniti AI-generirani sadržaj. Poboljšanje mjera kibernetičke sigurnosti, poticanje transparentnosti u digitalnom oglašavanju, promicanje medijske pismenosti i ulaganje u alate za detekciju i moderaciju temeljene na AI-u bitni su koraci u suzbijanju potencijalnih prijetnji povezane s AI-jem u izbornim procesima.
The source of the article is from the blog macnifico.pt