När vi går in i år 2024 är världen inställd på att bevittna högst betydelsefulla val i minst 64 nationer. Utgången av dessa val kommer inte bara forma det globala landskapet för de kommande åren, utan också markera en betydande vändpunkt i epoken av falska nyheter och desinformation.
Artificiell intelligens (AI) har alltmer blivit ett verktyg för att generera deep fakes, vilket är digitalt manipulerat material som övertygande kan imitera verkliga personer. AI:s förmåga att skapa dessa vilseledande videor och ljudklipp har väckt oro för deras potential att ändra valresultat på global nivå. Från New Hampshire till Venezuela är påverkan av AI-genererade deep fakes på demokratiskt hållna val obestridlig.
På senare tid har vi sett exempel på hur AI-genererade deep fakes redan har påverkat val. I USA fick väljare robocalls påstått från president Joe Biden, där de uppmanades att avstå från att delta i primärvalet. Den syntetiska rösten, omöjlig att skilja från den verkliga Bidens, hävdade falskt att att inte rösta i primärvalet skulle påverka deras förmåga att rösta i det allmänna valet. Även om källan till dessa falska samtal till slut avslöjades, understryker händelsen AI-genererade deep fakes makt att sprida desinformation.
Venezuela är ett bra exempel på ett land där AI-drivna desinformation och propaganda har nått avancerade nivåer. Med en armé av ”propagandister” och flerspråkiga deep fake digitala avatarer strävar Venezuelas system efter att störa val inom sina gränser och potentiellt ändra utfallet globalt.
Före detta colombianska presidenten Iván Duque betonar behovet av effektiva kontroller för att förhindra att utländska aktörer manipulerar valresultat genom AI-genererat syntetiskt material och falska nyheter. Duque varnar för att demokratins framtid beror på dessa skyddsåtgärder, eftersom att falla i fällan med artificiella demokratier utgör en betydande risk.
Påverkan av AI-genererade deep fakes sträcker sig bortom valen. I ett fall från Hongkong lurades en finansarbetare av en digitalt skapad avatar som liknade företagets finanschef att överföra över 25 miljoner dollar till bedragare. Om tekniken redan kan lura individer att tro att de interagerar med verkliga personer blir potentialen för deep fake-videor att påverka väljare ännu tydligare.
För att tackla denna existentiella attack på politiska nyheter och val föreslår experter olika strategier. Louis Steinberg, tidigare teknikchef på TD Ameritrade, föreslår att skapa digitala fingeravtryck för röster och bilder, liknande ansiktsigenkänningsteknik. Dessa digitala signaturer skulle försäkra allmänheten om att vissa ord sades av specifika individer i den ordning de sades, vilket ger ett sätt att autenticera.
Att implementera sådana säkerhetsåtgärder kan ta tid, vilket gör det nödvändigt för sociala medieföretag att ta ansvar på kort sikt. Steinberg hävdar att sociala medieplattformar bör vara ansvariga för att faktakontrollera den information de publicerar, vilket säkerställer spridningen av korrekt innehåll.
Vanliga frågor:
1. Vad är deep fakes?
Deep fakes är digitalt manipulerat material, såsom videor och ljudklipp, som använder artificiell intelligens för att imitera verkliga personer och händelser.
2. Hur kan AI-genererade deep fakes påverka val?
AI-genererade deep fakes har potential att sprida desinformation och påverka väljare, vilket potentiellt kan ändra valresultat.
3. Vilka åtgärder kan vidtas för att bekämpa hotet från AI-genererade deep fakes?
Experter föreslår att skapa digitala fingeravtryck för röster och bilder, liknande ansiktsigenkänningsteknik, samt att hålla sociala medieplattformar ansvariga för att faktakontrollera det innehåll de publicerar.
Källor:
– För mer information om AI-genererade deep fakes, besök: example.com
– För att lära dig om utmaningarna med att bekämpa AI-genererad desinformation, besök: example.com
The source of the article is from the blog mgz.com.tw