Új irányzatok az AI által elősegített dezinformációk kockázata választási integritás szempontjából
Aggodalomra ad okot, hogy növekvő mértékben azonosítanak olyan mesterséges intelligenciákat (AI), melyek képesek szövegek és képek létrehozására, és ezáltal a közelgő novemberi amerikai elnökválasztások zavargására képesek lehetnek. Az, ahogyan meggyőző hamisított képek készíthetők az éppen hivatalban lévő elnökről, Joe Bidenről, és az egykori elnökről, Donald Trumpról különösen aggasztó.
Az AI fejlesztő cégek állítják, hogy intézkedéseket tesznek az visszaélés elkerülése érdekében. Ugyanakkor a szakértők szerint ezek az erőfeszítések elégtelennek tűnnek. Egy az anti-digitális gyűlöletre specializálódott nemzetközi non-profit szervezet végezte el azt a „Hamis képek gyára” című tanulmányt, melynek során vizsgálták, hogy választási diszinformáció könnyen létrehozható-e olyan eszközökön keresztül, mint a Microsoft „Képszerkesztő”, az OpenAI „ChatGPT Plus (Dall-E 3)”, a Stability AI „Álomstúdió”, és egy azonos nevű szolgáltatás a Midjourneytől.
A tanulmány 40 különböző utasítást adott ki a választási témák körében annak felmérésére, hogy képek állíthatók-e elő közvetlen kinyilvánítások nélkül. Sikeres eredmények születtek, mint például kitalált képek Bidenről kórházi köpenyben vagy Trumpról szomorúan ülve egy börtöncellában, meglepően magas valószínűséggel, 41%-os arányban.
A ChatGPT Plus rendelkezett a legmagasabb aránnyal az AI által készített hamis tartalmak blokkolásában, míg a Midjourney alacsonyabb védelmi szintet ért el. A ChatGPT Plus és a Képszerkesztő mechanizmusokkal rendelkeznek a hamis képek létrehozásának megakadályozására a közfigurák, mint például Biden, Trump és Japán miniszterelnöke, Kishida Fumio, tekintetében. Azonban a Midjourney nem mutatta be ezeket a biztonsági intézkedéseket.
További aggodalmakat váltanak ki olyan képek, melyek választási visszaéléseket sejtetnek – mint a szavazóládák képei szemetesládákban vagy a biztonsági felvételek emberek általi szavazóládák feltöréséről -, melyek hamis ‘bizonyítékként’ szolgálhatnának a csalásra. Ezek a félrevezető vizuális elemek már elkezdtek terjedni a közösségi média platformokon.
Az AI választások során történő lehetséges visszaéléseinek ellensúlyozására az AI iparóriások, köztük a Google, OpenAI, Microsoft, Meta (korábban Facebook), és X (korábban Twitter), megállapodást kötöttek az együttműködésről az AI visszaélésének megelőzése érdekében. Annak ellenére, hogy egyetértés van és kezdeményezések, mint az elektronikus vízjel alkalmazása az AI által generált képek eredetének validálására, még mindig léteznek módok ezeknek az intézkedéseknek a megkerülésére.
A gyorsaság, amellyel a hamis képek terjedhetnek, riasztó. Januárban Taylor Swift popsztár szeméremkeltő hamisított képei váltak virálissá az X (korábban Twitter) platformon, mielőtt az account felfüggesztésre került. Ez a gyors terjedési ütem hangsúlyozza a lépésképtelenséget a dezinformáció terjedésével szemben.
Jelenleg nincsen olyan amerikai törvény, ami kötelezővé tenné a vállalati lépéseket az ilyen AI visszaélés ellen, ami arra késztet, hogy törvényi keretrendszerek kidolgozása történjen annak biztosítása érdekében, hogy a biztonsági intézkedéseket ne háttérbe szorítsa az azokat szabályozó versengés az befektetésért és a gyors funkciók elterjesztéséért.
Fontos kérdések és válaszok
Milyen kulcskérdések merülnek fel az AI által generált dezinformációk megelőzésében választások során?
A kulcskérdések közé tartozik a technológiai versengés a mély hamisítások létrehozása és az ezeket érzékelő mechanizmusok fejlesztése között, a dezinformáció gyors és széleskörű terjedése a közösségi médiában, valamint a jogi és etikai szabványok létrehozásának nehézsége, melyek lépést tartanak a fejlődő technológiával.
Milyen kontroversziák társulnak az AI hatásához a választásokra?
A kontroversziák az innováció és a szabályozás egyensúlyát, az AI fejlesztők és platformok felelősségét a tartalom ellenőrzésében, valamint az internetes cenzúra és a szólásszabadság közötti ellentmondásokat érintik.
AI Előnyei és Hátrányai a Választások Kontextusában
Előnyök:
– Az AI növelheti a választói részvételt és személyre szabott információkat szolgáltathat.
– Segíthet az adatelemzésben a jobb politikakialakítás érdekében.
– Az AI javíthatja a biztonsági funkciókat az választási adatok integritásának védelmére.
Hátrányok:
– Az AI által generált dezinformáció megtévesztheti a választókat és alááshatja a választási folyamatba vetett bizalmat.
– A mély hamisítások károsíthatják a reputációkat és manipulálhatják a közvéleményt.
– Az AI kiaknázásának potenciálja a célzott dezinformációs kampányokban rejlik.
Javasolt Kapcsolódó Linkek További Információkért
– Google
– OpenAI
– Microsoft
– Meta (korábban Facebook)
– Ezek a linkek hozzáférést biztosítanak a főbb AI ipari szereplők forrásaihoz a választási folyamatok és általánosságban az intézkedéseikkel kapcsolatban.
A Téma Beszélgetése az Cikkhez Kapcsolatban
Bár az eredeti cikk az AI azonnali hatását a közelgő választásokra összpontosítja, érdemes a további környezeti finomságokat is felfedezni. Például az AI rendszerek növekvő kifinomultsága lehetővé teszi számukra nemcsak meggyőző képek létrehozását, de meggyőző hamis hang- és videofelvételek készítését is, növelve a realisztikus mély hamisítások potenciálját. Az említettek mellett a hamis tartalom gyors terjedése riasztó, de ezt tovább nehezíti a digitális műveltség kihívása, ahol a nyilvánosság képessége a hamis és valódi tartalom megkülönböztetésére kulcsfontosságú.
Ezenfelül a szabályozást érintő viták nemcsak arra terjednek ki, hogyan lehet felvenni a harcot az AI visszaélésével a dezinformációs kampányokban, hanem a folytonos innováció és az AI azon előnyeinek védelmére is, melyeket a társadalomnak nyújthat, ideértve a politikai szférát is.
Összefoglalásként, bár az AI fejlesztők és platformok intézkedéseket tesznek az AI visszaélésének megszüntetésére a dezinformáció készítése terén, továbbra is fennmaradnak kihívások, beleértve a technológiai fejlődés ütemét, hatékony jogi keretrendszerek szükségességét és a média műveltség fontosságát. Ez a bonyolult összefüggés a technológia, az etika, a jog és a társadalmi hatás között továbbra is alakítja az AI kibontakozó politikai területének változó táját.
The source of the article is from the blog elektrischnederland.nl