V dôsledku skandálu Cambridge Analytica v roku 2018 sa význam sociálnych médií pri formovaní voličskej politiky dostal pod intenzívnu kontrolu. Skandál odhalil potenciál manipulácie názorov používateľov Facebooku použitím ich osobných údajov. V roku 2024 sme sa však ocitli v krajine, ktorá sa výrazne rozvinula pokiaľ ide o povedomie a pochopenie rizík spojených s online platformami. Avšak vznikli nové výzvy, najmä v oblasti umelej inteligencie riadenej dezinformáciou.
Umelá inteligencia sa stala mocným nástrojom pre urýchľovanie produkcie a šírenia nepravdivých informácií, hrajúc významnú úlohu v úsilí ovplyvniť verejný názor a výsledky volieb. Jej vplyv možno rozčleniť do troch kľúčových mechanizmov. Po prvé, umelej inteligencii môže exponenciálne zvyšovať kampane dezinformácií, dosahujúc tisíce alebo dokonca milióny jednotlivcov behom sekúnd. Tento rýchly rozšírenie prekonáva úsilie o overenie faktov, čím je ťažké efektívne reagovať na nepravdivé naratívy.
Po druhé, nástup hyper-realitných deep fake významne ohrozuje integritu volieb. S využitím pokročilých algoritmov strojového učenia môžu páchateľi vytvárať presvedčivé padelky obrázkov, zvukov alebo videí, ktoré môžu byť šírené víravo na sociálnych médiách. Tieto manipulácie činia stále náročnejším pre divákov rozoznávať fakt od fikcie, čo má za následok možné ovplyvňovanie verejného názoru.
Nakoniec, umele inteligencie riadené mikro-cieľovanie umožňuje zlomyseľným aktérom prispôsobiť svoje kampane dezinformácií konkrétnym demografickým skupinám alebo jednotlivcom. Využívaním osobných údajov získaných z sociálnych médií a iných online zdrojov môžu zneužívať existujúce predsudky, obavy a zraniteľnosti, čím maximalizujú presvedčivý účinok na citlivé publikum.
Štúdia predpokladá, že do roku 2024 povedie umele inteligencia k nárastu škodlivého obsahu na sociálnych média, ktoré sa objavuje takmer denne. Tento nárast predstavuje hrozbu pre volebné procesy v viac ako 50 krajinách, ohrozujúc stabilitu spoločnosti a legitimitu vlád po celom svete.
Ľahký prístup k veľkoplošným modelom umelej inteligencie a používateľsky prívetivým rozhraniam demokratizoval vytváranie syntetického obsahu. Od hyper-realitných deep fake videí po falzifikované webové stránky, tieto nástroje uľahčili šírenie nepravdivých informácií v neprecedentnom rozsahu a rýchlosti.
Uznávajúc závažnosť tohto problému, Svetové ekonomické fórum vo svojom prieskume Globálne vnímanie rizík zaradilo dezinformácie medzi 10 najväčších globálnych rizík. Je potrebné podniknúť urgentné kroky na riešení výziev, ktoré prináša umele inteligencie riadená dezinformácia. Je nevyhnutný viacstranný prístup, ktorý zahŕňa technologické inovácie, regulačné zásahy a vzdelávacie iniciatívy na zlepšenie médií literácie a kritických myslenkových zručností.
Spolupráca medzi vládami, technologickými spoločnosťami, mimovládnymi organizáciami a akadémiou je nevyhnutná pre rozvoj efektívnych stratégií na zmiernenie týchto rizík. Podporou transparentnosti, zodpovednosti a odolnosti v našich digitálnych ekosystémoch môžeme ochrániť verejný diskurz a demokratické inštitúcie pred koróznym vplyvom syntetického obsahu.
FAQ
The source of the article is from the blog mivalle.net.ar