Az OpenAI, a ChatGPT néven ismert konverzációs AI programot létrehozó vállalat kijelölt több olyan szervezetet Oroszországból, Kínából és más régiókból, amelyek állítólag az emberek véleményének befolyásolására használják az AI-t.
Ezek a csoportok, akik inkább titokban szeretik tartani identitásukat, AI-generált szövegeket használtak, szociális média fiókokat hoztak létre az AI segítségével, valamint AI-t használtak programozási feladatokra. Működésük során érzékeny geopolitikai ügyekre összpontosítottak, beleértve az orosz inváziót Ukrajnába, a Gáza-i konfliktusokat és az amerikai politikát.
Ezek közül a kínai székhelyű szervezet különösen aktív volt, olyan tartalmakat generált, amelyek kritizálták Japán Fukushima Daiichi atomerőművéből kezelt víz kontroverziális kibocsátását. Az akció továbbiakban japán nyelven tett posztokra is kiterjedt. Azonban jelentések szerint ezek az AI által létrehozott üzenetek nem érték el számottevő nézettséget a közösségi média platformokon.
Ráadásul az OpenAI arról tájékoztatott, hogy előfordultak olyan esetek, amikor a propagandisztikus képek generálására irányuló kísérletek elutasításra találtak az AI eszközök által, ezzel hangsúlyozva az etikai védekezéseket a visszaélések megelőzése érdekében. Az OpenAI jelentést tett közzé az azonos napon, amikor az eredményeket bejelentették, kiemelve az AI használatának ellenőrzésének és szabályozásának fontosságát, hogy megelőzzék az ilyen manipulatív gyakorlatokat.
Az AI jelentősége és relevanciája az emberek véleményének manipulálásában:
Az AI használata az emberek véleményének manipulálásában jelentős aggodalomra ad okot, mivel képes politikai választásokra befolyásolni, eltolni a közvéleményt kulcsfontosságú kérdésekben, és akár konfliktust is kirobbantani különböző csoportok között. Az művészi intelligencia eszközök, mint például a mély hamisítások létrehozására vagy meggyőző szövegek írására kifejlesztett eszközök, nagy méreteben tudják terjeszteni a dezinformációt, és olyan sebességgel, ami messze felülmúlja az emberek képességeit.
Kulcsfontosságú kérdések és válaszok:
– Milyen eszközöket alkalmaznak a szervezetek az emberek véleményének manipulálására AI segítségével?
A szervezetek az AI-t használják meggyőző szövegek generálására, valósághű képek vagy videók hamisítására (mély hamisítások), hamis szociális média profilok létrehozására és a dezinformáció terjesztésének automatizálására.
– Hogyan akadályozza meg az OpenAI az eszközeit a propagandára való felhasználásban?
Az OpenAI etikai védelmi rendszereket és felügyeleti mechanizmusokat alkalmaz, amelyek észlelhetik és megakadályozhatják a szoftvereket abban, hogy tartalmat generáljanak, amely a propagandát vagy dezinformációt szolgálja.
– Milyen kihívásokkal jár az AI használatának szabályozása a manipulációra?
Az AI eszközök és technológiák elterjedése a nemzetközi határokon átnyúló szabályozás kihívását jelenti. Ráadásul az AI fejlődő képességei túlléphetik az hatékony kormányzási keretek kialakításának létrehozását.
Kulcsfontosságú kihívások és viták:
A kulcsfontosságú kihívások, amelyek kezelése az AI felhasználást az emberek véleményének befolyásolására részeként, magukban foglalják a rosszindulatú tevékenységek azonosítását és betársítását az adott szereplőkhöz, mivel sokan elrejtik az azonosítóikat vagy külföldről működnek. Emellett folyamatos vita zajlik a szólásszabadság és a hamis információ terjedése közötti egyensúlyról, valamint a tech cégek szerepéről az állami hatóságokhoz képest a tartalom szabályozásában.
Az AI előnyei:
– Lehetővé teszi hatékony adatfeldolgozást és elemzést a közvélemény trendjeinek megértéséhez.
– Segít gyors információ terjesztésében legitim hírek vagy vészhelyzeti riasztások esetén.
Az AI hátrányai:
– Az AI-t fel lehet használni hamis narratívák megerősítésére és kifinomult dezinformációs hadjáratok létrehozására.
– Aggodalmakat vet fel a média és demokratikus intézményekbe vetett bizalom eróziója miatt.
Szabályozó erőfeszítések és etikai szempontok:
Az AI fejlődése ösztönözte az etikai felhasználásról és a szabályozó intézkedésekről szóló megbeszéléseket annak érdekében, hogy megakadályozzák a politikai területen történő visszaéléseket. A világszerte működő szervezetek és kormányok most már tudatosabbak és egyre inkább dolgoznak azon, hogy politikai kihívásokkal foglalkozó politikákat dolgozzanak ki, amelyeket az AI által felvetett etikai kihívások kezelnek.
Ha további információra vágysz az AI következményeivel és a társadalomra gyakorolt általános hatásával kapcsolatban, kutathatod az alábbi linkeket:
– OpenAI
– Az ENSZ Digitális Együttműködése
– Egészségügyi Világszervezet (az egészséggel kapcsolatos AI problémákra vonatkozóan)
The source of the article is from the blog revistatenerife.com