V neustále sa meniacom demokratickom a technologickom prostredí má rok 2024 obrovský význam. S rekordným počtom krajín a jednotlivcov, ktorí sa zúčastňujú na voľbách, sme svedkami historického momentu v dejinách ľudstva. Avšak spolu s demokratickým pokrokom rapídne pokroky v umelej inteligencii (AI) predstavujú neslýchané nebezpečenstvo. Vznik „deepfakes,“ realistické manipulácie zvuku, videa a obrázkov, majú potenciál oklamať voličov a hrať nebezpečnú hru v ríši politiky.
Uvedomujúc si túto naliehavú výzvu, technologický priemysel podnikol kľúčový krok voči riešeniu problému. Na Mnichovskej bezpečnostnej konferencii sa 20 popredných firiem spojilo a oznámilo Technologickú dohodu na boj proti klamlivej manipulácii AI vo voľbách 2024. Bezpochyby je cieľom tejto dohody nevyhnutný – bojovať proti šíreniu deepfake obsahu, ktorý mení vzhľad, hlas alebo akcie politických kandidátov a iných dôležitých osobností zapojených do volebného procesu. Dôležité je zdôrazniť, že táto iniciatíva nie je riadená straníckymi záujmami ani nemá za cieľ utláčať slobodu prejavu. Namiesto toho si kládze za cieľ ochrániť základné právo voličov vybrať si svojich vodcov, slobodne od vlivu manipulácií generovaných AI.
Hoci cesta vpred môže byť náročná, Technologická dohoda predstavuje významné a jednotné úsilie technologického priemyslu. Zaznamenáva kritický okamih, keď sú voľby naplánované v viac ako 65 krajinách počas celého roka. Aj keď je ešte veľa práce na vykonaní, táto globálna iniciatíva slúži ako základ pre okamžité kroky a generuje momentum naprieč rôznymi odvetviami.
Primárny problém, ktorý vyžaduje našu pozornosť, spočíva v tvorbe realistických deepfakes pomocou nástrojov generatívnej umelej inteligencie. Tieto nástroje sa stali čoraz prístupnejšími a umožňujú vytváranie presvedčivých zvukov, videí a obrázkov, ktoré môžu manipulovať vzhľad a akcie jednotlivcov. Microsoft AI for Good Lab dokázal ľahkosť tohoto procesu vytvorením videí, ktoré sa javili dôveryhodné, meniac dokonca aj jazyk a plynulosť rečníka. Takéto manipulácie predstavujú značné riziko pre autenticitu a integritu demokratických procesov po celom svete.
AI uľahčila nový spôsob manipulácie, ktorý sa postupne vyvíjal počas poslednej dekády, od rozšírenia falošných webových stránok po použitie botov na sociálnych médiách. Nedávne mesiace svedčili o náraste odkrytia tohto problému a jeho potenciálnych následkov na voľby. Príklady zahŕňajú AI-generované robokoly počas primárnych volieb v New Hampshire, napodobňujúce hlas prezidenta Bidena, ako aj deepfake videá so sebou zahŕňajúceho britského premiéra Rishiho Sunaka. Dokonca Microsoft Threat Analysis Center identifikoval určité deepfake videá súvisiace s aktérmi národných štátov, čo poukazuje na vážnost situácie.
Použitie AI a deepfakes zlomyseľnými entitami predstavuje podstatné riziko pre demokratické spoločnosti po celom svete, najmä tým, že podkopávajú schopnosť verejnosti robiť informované rozhodnutia počas volieb. V tomto ohľade sa problém deepfakes prelína dvomi sférami v rámci technologického sektora. Na jednej strane sú spoločnosti, ktoré vytvárajú AI modely, aplikácie a služby, ktoré môžu generovať realistický zvuk, video a obsah založený na obraze. Na strane druhej sú platformy a služby, cez ktoré sa tieto deepfakes môžu šíriť verejnosti. Microsoft, ako významný hráč v oboch priestoroch, využil svoje znalosti na identifikáciu a boj s deepfakes. Ich AI for Good Lab, spolu s Microsoft Threat Analysis Center, analyzovali a sledovali zlých aktérov a ich taktiky, využívajúc AI nástroje pre zlepšené zisťovanie.
Avšak podstata tejto výzvy nie je v technológii, ale v ľudskej spolupráci. Keď diskusie o deepfakes získali globálny momentum, chýbala akcia a čas sa zdal byť vyplytý, obzvlášť s blížiacimi sa voľbami. Vzhľadom na tieto naliehavé okolnosti sa spolupráca stala nevyhnutnou. Dnešné oznámenie v Mnichove znamená vyústenie úsilia mnohých firiem v technologickom priemysle, ktoré sa spojili, aby v konfrontovali túto hrozbu.
Nepochybne ide o veľký deň, ktorý reprezentuje oddanosť a kolektívnu prácu vášnivých jednotlivcov v technologickom sektore. Technologická dohoda je významným mí
The source of the article is from the blog enp.gr