Az előttünk álló választások során egyre növekvő veszélyként jelenik meg a mesterséges intelligencia mély hamisításainak problémája. Az ingyenes vagy olcsó generatív mesterséges intelligencia szolgáltatások elérhetőségével a meggyőző mély hamisítások létrehozása könnyebbé vált, mint valaha. Korábban a hamis fotók, videók és hangfelvételek létrehozása jelentős erőforrásokat és technikai készségeket igényelt, most azonban bárki, aki rendelkezik okostelefonnal és gonosz képzelőerővel, egyszerű szöveges utasítások segítségével létrehozhat magas minőségű mély hamisításokat.
Amint több mint 50 ország készül a közelgő választásokra, növekszik az aggodalom az AI mély hamisítások befolyásáról. Henry Ajder, az általános AI szakértője úgy véli, hogy a kérdés nem az, hogy az AI mély hamisítások mennyire befolyásolják a választásokat, hanem hogy mekkora hatással lesznek. Ezek a mély hamisítások képesek lehetnek egy jelölt képét lejáratni vagy megenyhíteni, szavazókat irányítani a jelöltek felé vagy ellenük, és akár azt is előidézhetik, hogy az emberek egyáltalán ne menjenek szavazni. Azonban a legnagyobb veszélyt az jelenti, hogy a szakértők azonosítottak, hogy az emberek elvesztik a hitüket abban, amit látnak és hallanak.
Az Egyesült Államokban az elnökválasztás előtt, egyre nagyobb számban bukkannak fel az AI mély hamisítások példái. Például Moldova pro-nyugati elnökéről készült egy videó, ahol egy oroszbarát pártot támogat, állított audió felvételek Szlovákia liberális pártjának vezetőjéről, ahol választási csalásokról és a sör árának emeléséről beszéltek, illetve egy videó Banglades egy ellenzéki törvényhozóról, aki egy bikinit visel. A technológia újdonsága és kifinomultsága nehezíti a mély hamisítások eredetének nyomon követését.
A kormányok és vállalatok komoly nehézségekkel küzdenek ennek a problémának az hatékony kezelésében. A technológia gyorsan fejlődik, ami nehezebbé teszi az igazi és hamis tartalom közötti megkülönböztetést. Ahogy a technológia fejlődik, egyre nehezebb meghatározni ennek a tartalomnak az autenticitását. Ez a kihívás aggodalmakat vet fel az AI mély hamisítások hatását illetően a választásokra és az általános demokráciára nézve.
Az AI mély hamisítások célja, hogy kétséget szítsanak a jelöltek hűségét illetően és megrendítsék a közvéleményt az választásokon és az intézményekbe vetett bizalmat illetően. Moldovában például a mély hamisítások céltáblája volt a pro-nyugati elnök, Maia Sandu, amivel megrendítették a bizalmat az választási folyamat iránt. Hasonló aggályok merültek fel Kínában a generatív AI használatával kapcsolatban Tajvan politikai célokra való felhasználásával. A Kínai Kommunista Pártot arra vádolt, hogy beavatkozik Tajvan politikájába a TikTok platformon keresztül történő mély hamisítások terjesztésével.
Az audio-tartalmakat többnyire nehéz észlelni, mivel hiányoznak róluk a manipuláció vizuális jelei. Olyan országokban, mint Szlovákia, ahol az orosz befolyás fenyeget, az audio felvételek nagy terjedésben vannak, amelyek hasonlítanak a liberális párt vezetőjének hangjára, és olyan vádakat fogalmaznak meg, mint a választási csalások és sör árának manipulálása. Az emberek inkább szemeteljük gyakorolják, mintsem a hallásukra, ezáltal az audio mély hamisítások jobban becsapóak.
A szakértők attól tartanak, hogy az Indiában közelgő választások, ahol a közösségi média platformok a téves információk tenyésztőterületei, nagy veszélyben lesznek az AI mély hamisításoktól. Azon országokban, ahol alacsonyabb a média műveltsége, még az alacsony minőségű AI mély hamisítások is komoly hatással lehetnek a közvéleményre és a bizalomra.
Ezt a kihívást globális erőfeszítésekkel kell kezelni. Az Európai Unió már előírja a közösségi médiaplatformoknak, hogy csökkentsék a dezinformáció terjedését és az választások manipulálását, ideértve az AI mély hamisítások különleges címkézését. Bár a legnagyobb technológiai vállalatok önkéntesen kötelezték, hogy megakadályozzák az AI zavarokat az választásokon, sokkal többet kell tenni annak érdekében, hogy megfékezzük a mély hamisítások terjedését olyan platformokon, mint a Telegram.
Gyakran Ismételt Kérdések
The source of the article is from the blog xn--campiahoy-p6a.es