Kevin TopolskyNaujausi dirbtinio intelekto (DI) pasiekimai plačiai naudojami klaidinančiai informacijai kurti internete, ypač Rusijos propagandos pastangose. Šis DI generuojamo turinio atsiradimas apima realistiškas nuotraukas ir deepfake vaizdus su žymiais politiniais ir kariuomenės veikėjais, efektyviai sumišdami tiesą ir apgaulę.
Ekspertai, tokie kaip Tatiana Avdeeva iš Skaitmeninės saugumo laboratorijos, pabrėžia sudėtingas technologijas, naudojamas kuriant ir platinant šį turinį. Iš pradžių deepfake atrodė šiurkščiai; tačiau jie išsivystė iki tokio lygio, kad juos beveik neįmanoma atskirti nuo realių nuotraukų. Šis didėjantis kokybės lygis didina dezinformacijos riziką.
Strategija, slypinti už šių kampanijų, dažnai prasideda nuo patrauklių vaizdų ar naratyvų kūrimo apie kariškius. Kai šie įrašai sukuria žiūrovų įsitraukimą, jie įgauna populiarumą socialinėse medijose, tokiose kaip Instagram ir Facebook, varomų jų algoritmų, propaguojančių populiarų turinį. Tai palengvina subtilesnį pro-Rusijos naratyvų plitimą.
Daug socialinių medijų organizacijų sunkiai atpažįsta tokias apgaulingas praktikas. Nors tokios platformos kaip Meta yra informuotos apie problemą, jos pripažįsta sudėtingumą, susijusį su DI generuojamo turinio atsekimu, kuris aiškiai neparodo savo dirbtinio pobūdžio.
Norėdami kovoti su šios dezinformacijos įtaka, vartotojai raginami ieškoti specifinių požymių. Tokie indikatoriai, kaip nenatūralūs akių pasirodymai arba skirtumai pirštų skaičiuje, gali suteikti užuominų apie tai, ar nuotrauka buvo dirbtinai sukurta. Nepaisant sudėtingumų, kuriuos kelia pažangūs deepfake, didėjanti viešoji kritika skaitmeniniam turiniui gali padėti sumažinti dezinformacijos poveikį.
DI technologijos skatina dezinformacijos kampanijas: išsamesnis žvilgsnis
Naujausi dirbtinio intelekto (DI) kūrimai ne tik pagerino vartotojo patirtį įvairiose srityse, bet ir paskatino precedento neturintį dezinformacijos kampanijų augimą. DI įrankiai ir technikos pertvarko dezinformacijos kraštovaizdį, leisdamos kurti ir platinti turinį, kuris kelia dideles grėsmes demokratijai, viešajai nuomanei ir socialiniam susivienijimui.
Kokios pagrindinės technologijos varo šias dezinformacijos pastangas?
Pagrindinės technologijos, kuriomis remiasi DI skleidžiamas dezinformacija, apima natūralios kalbos apdorojimą (NLP), vaizdų sintezės algoritmus ir generatyvinius priešpriešinius tinklus (GAN). NLP naudojamas tiksliai aprašyti apgaulingus naratyvus, o GAN gali generuoti hiperrealistinius vaizdus ir vaizdo įrašus. Šis derinys leidžia dezinformacijai būti pateiktai emociniu požiūriu patraukliai ir kontekstualiai tinkamai, todėl auditorijai sunkiau atskirti tiesą nuo fikcijos.
Kokie pagrindiniai iššūkiai, kovojant su DI generuojama dezinformacija?
Didžiausias iššūkis slypi greitame DI technologijų vystymesi. Kai įrankiai tampa vis sudėtingesni, atskirti tikrą turinį nuo netikro reikalauja vis pažangesnių atpažinimo technikų. Be to, socialinės medijos platformos susiduria su sunkumais, bandydamos spėti su milžinišku kasdien generuojamo ir dalinamo turinio kiekiu. Be to, teisiniai ir etiniai klausimai apsunkina DI generuojamo turinio reguliavimą, dažnai trukdant greitiems įsikišimams.
Kokie ginčai supa DI dezinformacijos srityje?
Vienas iš didžiausių ginčų yra pusiausvyros tarp laisvės išraiškos ir poreikio apriboti žalingą dezinformaciją paieška. Diskusijos kyla dėl to, kiek vyriausybės ir platformos turėtų reguliuoti DI generuojamą turinį, nenusikalsdamos individualioms teisėms. Taip pat yra susirūpinimas, kad pastangos kovoti su dezinformacija gali netyčia slopinti teisėtą diskursą arba nuslopinti nesutinkančias balsus.
AI generuojamo turinio privalumai ir trūkumai dezinformacijoje:
DI technologijų privalumai apima geresnį efektyvumą kuriant turinį ir gebėjimą tiksliai taikyti tam tikras demografines grupes, kas gali greitai sustiprinti žinutes. Tai gali išnaudoti socialinių medijų algoritmus, kurie mėgsta įsitraukimą, todėl dezinformacija plinta greičiau nei faktinė žinia. Tačiau, kita vertus, tos pačios technologijos kelia riziką informacijos vientisumui. Jos sukuria „po tiesos“ aplinką, kur auditorijai gali būti sunku pasitikėti teisėtais informacijos šaltiniais, kas gali sumažinti viešąją pasitikėjimą institucijomis ir žiniasklaida.
Kaip vartotojai gali atpažinti potencialiai apgaulingą turinį?
Norėdami atpažinti DI generuotą dezinformaciją, vartotojai turėtų būti budrūs. Jie gali pasinaudoti faktų tikrinimo svetainėmis, analizuoti nuotraukų metaduomenis ir kruopščiai nagrinėti pateiktos informacijos kontekstą. Taip pat atsiranda įvairūs DI įrankiai, kurie padeda aptikti deepfake ir manipuliuotą mediją, tai gali papildomai padėti vartotojams įvertinti turinio autentiškumą.
Išvada
Kol DI technologijos toliau vystosi, taip pat auga jų potencialas giliai paveikti informacijos kraštovaizdį. Nors su DI generuojama dezinformacija siejami dideli iššūkiai ir ginčai, vartotojų sąmoningumas ir proaktyvūs veiksmai, kartu su atsakingais platformų ir politikos kūrėjų veiksmais, gali padėti skatinti teisingesnį diskursą skaitmeniniame amžiuje.
Dėl išsamesnio supratimo apie temą ir norint ištirti naujausius pasiekimus, apsilankykite Brookings institutas ir Pew tyrimų centras.
