Kevin TopolskyNauja era, kur politinis peizažas manipuliuojamas pažangia technologija, atskleidžiant nerimą dėl galimos balsų manipuliacijos smarkioje JAV prezidento rinkimų kampanijoje.
Neseniai socialiniuose tinkluose pradėjo plisti trikdantis vaizdo įrašas, parodantis Demokratų partijos nominantę Kamalą Harris, naudojantį „deepfake” technologiją, kartu su manipuliuotais vaizdo įrašais, kuriuose matoma, kaip prezidentas Joe Bidenas daro įžeidžiančias pastabas, ir su klastu apie Respublikonų kandidato Donaldo Trumpo sulaikymą.
Atsižvelgiant į tai, kad lapkričio mėnesį vyksiančių JAV rinkimų pirmą kartą sekmėje veikia dirbtinio intelekto veikiamas poveikis, tyrėjai perspėja apie galimybę naudoti deepfakes technologiją, kad balsuotojus įtiktų arba atgrasintų nuo kandidato, ar net atgrasintų nuo balsavimo apskritai, dar labiau sustiprindami rūpesčius jau polarizuotame aplinkoje.
Siūloma, kad technologijų gigantai sustiprintų apsaugą prieš dirbtinį intelektą iki rinkimų, nes didėja rūpesčiai dėl klaidinančios informacijos plitimo.
Žymūs asmenys, tokius kaip Elon Musk, patyrė kritikos už deepfake vaizdo įrašų dalinimąsi, pabrėžiant skubų būtinybę apsisaugoti nuo netinkamo kai kuriais AI sugeneruoto turinio naudojimo.
Prognozuojama, kad politikoje naudojamų deepfake technologijos panaudojimas pagreitės, su skaitmeninės kriminalistikos ekspertais įspėjant apie plačios apgaulės riziką, dar labiau pakenkiančią frakciniams tempimams.
Ekspertai siūlo, kad AI varomoji susirašinėjimo programa galėtų potencialiai paveikti balsuotojų aktyvumą skleisdamos klaidingus naratyvus per didelį kiekį netikrų pranešimų.
Kai visuomenė tampa vis labiau įspėta, apklausos rodo, kad reikšmingas procentas amerikiečių bijo AI sugeneruotos dezinformacijos poveikio 2024 metų rinkimų rezultatams, dėl ko kyla pasitikėjimo rinkimų rezultatais sumažėjimas.
Keli technologijų milžinai kuria sistemas, skirtas klasifikuoti AI sugeneruotą turinį, siekdami kovoti su dezinformacijos plitimu.
Stengdamiesi įveikti besigręžiančią grėsmę, per 200 technologinių grupių skelbia apie skubias priemones kovai su plitimo apgaulėmis, įskaitant deepfake naudojimo politinėje reklamoje uždraudimą ir algoritmų naudojimą palaikyti tikrąjį rinkimų turinį.
Išmanant, kad dirbtinio intelekto sukeliamos klaidinančios informacijos iššūkiai
Su nuolatiniu dirbtinio intelekto integravimu į formuojant viešąjį diskursą, susirūpinimas dėl galimos klaidinančios informacijos, trukdančios demokratiniams procesams, tęsiasi. Pasaulis stebi technologijos ir politikos subtilų sąveiką, kyla esminiai klausimai dėl pasekmių ir priemonių, būtinų siekiant šiuos rizikas sumažinti.
Pagrindiniai klausimai dėl klaidingos informacijos, kurią generuoja dirbtinis intelektas
1. Kaip galime skirti autentišką turinį nuo AI sugeneruotos dezinformacijos?
Atsakymas: Plėtojant patikimas autentikacijos priemones ir faktų tikrinimo mechanizmus galima pagerinti autentiškos informacijos atskiriamąją galią nuo manipuliuoto turinio.
2. Kokį vaidmenį socialiniai tinklai atlieka kovojant su deepfake vaizdo įrašų plitimu?
Atsakymas: Socialiniai tinklai turėtų įgyvendinti griežtus politikos variantus ir technologijas, kad būtų galima greitai aptikti ir pašalinti deepfake turinį.
3. Ar yra galimybė naudoti dirbtinį intelektą, kad būtų pašalintas klaidingo turinio poveikis?
Atsakymas: Tyrimai tęsiami, siekiant ištirti AI grįžtamąsias priemones, kurios galėtų nustatyti ir neutralizuoti dirbtinio intelekto sukurtą apgaulingą turinį.
Privalumai ir trūkumai, susiję su AI sugeneruota dezinformacija
Privalumai:
– Greitas informacijos sklaida: AI gali greitai kurti ir plisti turinį, užtikrinant laiku vykdomą komunikaciją.
– Sustiprintas vartotojų įtraukimas: AI sugeneruotas turinys gali surinkti dėmesį ir skatinti diskusijas.
Trūkumai:
– Grėsmė demokratiniais procesais: Klaidinanti informacija gali manipuliuoti visuomenės nuomonę, turėdama įtakos rinkimams ir valdymui.
– Pasitikėjimo pažeminimas: Nuolatinis AI sugeneruotų klaidingų pranešimų eksponavimas gali pažeisti pasitikėjimą informacijos šaltiniais ir institucijomis.
Pagrindiniai iššūkiai ir kontroversijos, susijusios su klaidingą AI sugeneruotą turinį
1. Technologiniai apribojimai: Sparčia AI evoliucija sudaro iššūkį sukurti nepažeidžiamus aptikimo metodus prieš sudėtingus deepfakes.
2. Teisiniai ir etiniai rūpesčiai: Balansuojant laisvę išsakyti nuomonę su poreikiu slopinti dezinformaciją kyla sudėtingi etiniai dilemos.
3. Tarptautinis bendradarbiavimas: Klaidingas AI sugeneruotas turinys neapsieina sienų, todėl reikalingas globalus bendradarbiavimas, kad būtų galima efektyviai kovoti su jo plitimu.
Norėdami gauti daugiau žinių apie šią svarbią problemą, kreipkitės į patikimas šaltinius, tokius kaip BBC News ir Wired.
