Per daugiau nei 80 šalių šiemet numatyti rinkimai esame ant technologijų ir demokratijos sankryžos. Išsivysčiusios dirbtinio intelekto (AI) įrankiai atsirado, leidžiantys kurti hiperealistinę suklastotą turinį, kuris gali paveikti balsuotojus ir sutrikdyti demokratines institucijas.
Šio besiplečiančio rinkimų bangos krante, kuomet pusė pasaulio gyventojų balsuos, kenksmingos entitetai randa puikią galimybę panaudoti tokią technologiją kenksmingais ketinimais. Tai vyksta tuo metu, kai pagrindinės socialinių tinklų įmonės sumažina pasitikėjimo ir saugumo komandas, galimai didindamos savo platformų pažeidžiamumą dėl AI-veikiamų dezinformacijos kampanijų.
Taivane buvo pastebėtas toks grėsmingas reiškinys, kai buvo išnarstyti melagingi vaizdo įrašai, galbūt platinami Kinijos, teigiantys, kad prezidentūros kandidatas Lai Ching-te turėjo neleistinų vaikų. Šie vaizdo įrašai buvo skirti diskredituoti politikus, kurie siekia užtikrinti Taivano nepriklausomybę.
Trūkstami atvejai apgaulingos žiniasklaidos tęsiasi visame pasaulyje. Bangladeše, prieš sausio rinkimus, AI sugeneruoti vaizdo įrašai bandė sukelti religinę įžeidžiamumą, rodydami opozicijos politiką neadekvačiai. Slovakijoje taip pat susidūrė su rinkimais susijusiais AI trikdžiais, pateikti garso įrašai, kurie tikriausiai buvo keičiami, kad įtiktų liberaliosios partijos lyderį netikrais veiksmais.
Jungtinė Karalystė greitai gali susidurti su šiuo iššūkiu, kai suklastotos apkaltinimų priespauda sklinda prieš politikos figūras per AI sugeruotą socialinius medijų turinį. Technologijų gigantai, toki kaip Meta ir „YouTube“, propaguoja AI sukurtų medžiagų žymėjimą, sukurdami įspūdį, kad imamasi veiksmų prieš AI piktnaudžiavimą.
Tačiau realybėje, sumažėjęs turinio stebėjimo komandų skaičius ir loosening of policies on misinformation painioja raganinkų galimybę išnaudoti šias platformas JAV prieš lapkričio rinkimus. Joe Biden balso jau buvo imituotas naudojant AI technologiją platinant melą Naujajame Hampšyre.
Demokratinio proceso tikrumui išlieka svarbu, kad technologijų įmonės peržiūrėtų savo politiką ir sustiprintų savo apsaugos priemones prieš AI piktnaudžiavimą. Deja, šios technologijos behemotai atrodo, kad išsisukinėja nuo šių reformų. Technologijos skaidrumo šalininkai, tokie kaip Katie Paul Vašingtone, ragina skubiai veikti, kad būtų išvengta AI piktnaudžiavimo manipuliuojant balsuotojus.
Klausimai ir Atsakymai:
1. Kaip naudojamas AI kuriant dezinformaciją?
AI gali būti naudojamas kurti gilių tropų (vaizdo ar garso įrašus, kuriuose asmenys sako ar daro dalykus, kurių niekada nepadarė), generuoti įtikinamus melagingus naujienų straipsnius ar automatizuoti dezinformacijos platinimą mastu socialiniuose tinkluose.
2. Kodėl rinkimai yra pagrindinis tikslas AI leidžiamai dezinformacijai?
Rinkimai yra aukštos rizikos įvykiai su svarbiais politiniais padariniais. Dezinformacija gali paveikti balsuotojų elgesį, destabilizuoti pasitikėjimą institucijomis ir paveikti rinkimų rezultatus.
3. Kokias priemones socialiniai tinklai ėmėsi kovodami su AI leidžiamu dezinformacijos?
Kai kurios įmonės žymi AI sugeneruotą medžiagą, investuoja į mašininio mokymosi algoritmus, kad aptiktų ir pašalintų klaidingą informaciją, ir bendradarbiauja su nepriklausomais faktų tikrintojais. Tačiau kyla susirūpinimas dėl sumažėjusių turinio stebėjimo komandų ir loosening of policies on misinformation.
4. Kokios iššūkiai kovojant su AI leidžiama dezinformacija?
Iššūkiai apima persuasuojančią gilumą, kuriuo greitai gali būti platinama AI sugeneruota medžiaga, ir sunkumai atskirti autentišką nuo klastotų medžiagų. Be to, kyla klausimas dėl laisvos kalbos ir technologinio ginkluotės varžybų tarp dezinformacijos kūrėjų ir detektorių.
5. Kokį vaidmenį gali atlikti vyriausybės ir politikai, sprendžiant AI paskatintą dezinformaciją?
Vyriausybės ir politikai gali įgyvendinti teisės aktus, kad įpareigtų technologijų įmones atskaitingas, paremtų tyrimais į AI aptikimo metodus, skleistų skaitinę raštingumą visuomenėje ir užtikrintų, kad demokratiniai procesai būtų apsaugoti.
Pagrindiniai Iššūkiai ar Kontroversijos:
– Metodų Aptikimų Išplėtimas: Kadangi AI technologija tobulėja, išlieka vis sunkiau sekti AI sugeneruotą dezinformaciją, reikalaujant nuolatinio tobulinimo sudėtingesnių aptikimo metodų.
– Laisvės Kalba prieš Cenzūrą: Politika, kurią siekiama suvaržyti dezinformaciją, kartais kelia nerimą dėl teisėtų turinio cenzūros ar laisvos kalbos slopinimo.
– Pasaulinis Nuoseklumas: Skirtingos šalys turi skirtingus teisės aktų ir reguliavimo pagrindus, kas gali padaryti kovą su dezinformacija sudėtingu uždaviniu.
– Technologijų Įmonės Atsakomybė: Tebevyksta ginčas dėl to, kiek atsakomybės turėtų būti perkelta į technologijų įmones dėl turinio, dalijamo jų platformose.
Privalumai ir Trūkumai:
– Privalumai: Technologiniai pasiekimai leidžia greitai identifikuoti ir pašalinti dezinformaciją, gali suteikti vartotojams informacijos galią ir skatinti skaidrųjį susirašinėjimą.
– Trūkumai: AI taip pat gali būti naudojamas kenksmingai sugeneruoti patikimos dezinformacijos, sukelti painiavą balsuotojuose ir eroziją pasitikėjimą demokratinėmis institucijomis ir procesais.
Susiję Nuorodos:
Čia pateikiamos siūlomos nuorodos susijusios su tema:
– Jungtinės Tautos: tarptautinės pastangos ir diskusijos dėl dezinformacijos poveikio globaliai valdžiai.
– Pasaulio Sveikatos Organizacija: dėl dezinformacijos vaidmens viešosiose sveikatos srityse, kuri yra susijusi sritis su pasekmėmis valdžiai ir pasitikėjimui institucijomis.
– Organizacija saugumui ir bendradarbiavimui Europoje: dėl jų darbo su žiniasklaidos laisve ir pastangų kovojant su dezinformacija.
Šie punktai ir nuorodos suteikia papildomo konteksto apie AI leidžiamą dezinformaciją pasaulinėse rinkimų situacijose ir platesnius iššūkius, kuriuos tai kelia demokratiniams visuomenėms.