Ako sa blíži tamojšia primárna voľba, obavy o vplyv umelej inteligencie (UI) na dezinformácie o voľbách sa zvyšujú. Nedávne incidenty spojené s telefonátmi robocall poháňanými pomocou UI, ktoré imitovali hlas prezidenta Joea Bidena, vyvolali vyšetrovania a položili otázky ohľadom potenciálneho vplyvu UI na voľby v roku 2024. Štátne legislatívy po celom štáte teraz zvažujú opatrenia na zakázanie alebo regulovanie obsahu o voľbách generovaného pomocou UI.
Použitie UI v kampaniach dezinformácií poukazuje na naliehavú potrebu regulácií tejto technológie. Zelly Martin, absolventský výskumný asistent na University of Texas v Austin, zdôrazňuje dôležitosť kritického hodnotenia týchto obáv bez podľahnutia panike. Avšak varuje, že bez obmedzení má UI potenciál stať sa stále presvedčivejším a rozmazávať hranicu medzi faktami a fikciou.
Cybersecurity & Infrastructure Security Agency (CISA) zverejnila štúdiu, v ktorej sú uvedené rôznorodé a zlé využitia generatívneho UI. Deepfake videá a falošné sociálne média vytvorené pomocou fotografií generovaných pomocou UI sú iba niektoré príklady hrozieb vyplývajúcich z tejto technológie. Rozšírenosť dezinformačných kampaní poháňaných pomocou UI môže ovplyvniť verejné vnímanie a skresliť pravdu.
Jednou z hlavných výziev v regulovaní UI je obtiažnosť rozlišovať pravdivý obsah od manipulovaných alebo falošných informácií. Deepfake videá môžu značne sťažovať rozpoznávanie skutočných a falošných vyjadrení politických figúr, ako je prezident Biden. Namiesto toho sa stáva kľúčovým spoliehať sa na spoľahlivé zdroje a overovanie faktov.
Štúdia tiež poukazuje na potenciál UI vytvárať malvéry, ktoré unikajú systémom detekcie a vytvárať presvedčivé falošné voľobné záznamy. Technológia klonovania by sa mohla použiť na zosobnenie úradníkov zodpovedných za voľby a získanie prístupu k citlivým informáciám. Tieto schopnosti vyvolávajú vážne obavy o bezpečnosť a integritu volebného procesu.
Napriek rastúcej povedomosti o nebezpečenstvách spojených s UI a dezinformáciami, legislatívne opatrenia sa pohybujú pomaly a sú neadekvátne. Aj keď sa Texas stal prvým štátom, ktorý zakázal deepfake videá s cieľom ovplyvniť voľby, stále chýbajú širšie predpisy týkajúce sa UI. Poradný výbor pre umeleú inteligenciu v Texase sa zaoberá dohľadom nad používaním tejto technológie a navrhovaním legislatívnych zmien, ale pokrok bol obmedzený.
Na federálnej úrovni sa Kongres snaží prijať účinné zákony na reguláciu UI a boj proti dezinformáciám. Martin pochybuje, že zákonodarcovia budú schopní efektívne riešiť tieto problémy s ohľadom na svoje predchádzajúce ťažkosti pri regulovaní sociálnych médií. Vzdelanie sa považuje za čiastočné riešenie, ale nie je bez chýb.
Aby sa minimalizoval vplyv dezinformácií poháňaných pomocou UI, je dôležité, aby politici, odborníci v technológii a verejnosť spolupracovali na vypracovaní komplexných regulačných rámcov. Proaktívne opatrenia, ktoré podporujú transparentnosť, posilňujú kybernetickú bezpečnosť a podporujú kritické myslenie, sú nevyhnutné pre ochranu integrity budúcich volieb.
The source of the article is from the blog toumai.es