Az OpenAI, a ChatGPT párbeszédalapú mesterséges intelligencia program alkotója, több olyan szervezetet azonosított Oroszországban, Kínában és más régiókban, amelyek állítólag a közvélemény befolyásolása céljából használják az AI-t.
Ezen csoportok, akik inkább titokban tartják az azonosítóikat, AI-által generált szövegeket és közösségi média-fiókokat hoztak létre, valamint az AI-t felhasználják programozási feladatok ellátására is. Működésük során olyan érzékeny geopolitikai kérdésekre fókuszáltak, mint az orosz invázió Ukrajnába, a Gázai övezet konfliktusai és az amerikai politika.
Ezen belül egy kínai székhelyű szervezet különösen aktív volt, olyan tartalmakat generálva, amelyek kritizálják a Japán Fukushima Daiichi nukleáris erőműből tisztított víz kontroverziális kibocsátását. A művelet japán nyelvű bejegyzésekre is kiterjedt az interneten. Azonban a jelentések szerint ezek az AI által készített üzenetek nem nyertek jelentős nézettséget a közösségi média platformokon.
Továbbá az OpenAI azt jelentette, hogy voltak olyan esetek, amikor a propagandisztikus képek előállítására tett kísérletek AI eszközökkel a szoftver általi visszautasításba ütköztek, hangsúlyozva az etikai védelmi intézkedéseket, amelyeket a visszaélések megakadályozása érdekében bevezettek. Az OpenAI egy jelentést is kiadott, amely részletesen bemutatja ezeket a fenyegetéseket, ugyanazon a napon, amikor a találmányokat bejelentették, hangsúlyozva annak fontosságát, hogy figyelemmel kísérjék és szabályozzák az AI használatát annak érdekében, hogy megelőzzék ezeket a manipulatív gyakorlatokat.
A mesterséges intelligencia fontossága és relevanciája a közvélemény manipulálásában:
A mesterséges intelligencia használata a közvélemény manipulálásában jelentős aggodalomra ad okot, mivel befolyásolhatja a politikai választásokat, megváltoztathatja a közvéleményt kulcsfontosságú kérdésekben, sőt konfliktusokat is kelthet különböző csoportok között. Az olyan mesterséges intelligencia eszközök, mint a mélyen trükközött videók készítésére vagy meggyőző szövegek írására fejlesztettek, lehetőséget teremthetnek a dezinformáció tömeges terjesztésére, emberi képességeket messze túlszárnyaló sebességgel.
Kulcskérdések és válaszok:
– Milyen eszközöket alkalmaznak a szervezetek a közvélemény manipulálására mesterséges intelligenciával?
A szervezetek AI-t alkalmaznak meggyőző szövegek generálására, valósághű képek vagy videók manipulálására (mélytrükkök), hamis közösségi média profilok létrehozására és a dezinformáció terjesztésének automatizálására.
– Hogyan akadályozza az OpenAI saját eszközeit a propagandára való felhasználásban?
Az OpenAI etikai védelmi intézkedéseket és felügyeleti mechanizmusokat vezet be, melyek észlelhetik és megakadályozhatják a szoftvert abban, hogy olyan tartalmat generáljon, amely szándékosan propagandát vagy dezinformációt céloz.
– Milyen kihívások járnak a mesterséges intelligencia manipulációs célú szabályozásával?
A mesterséges intelligencia eszközök és technológiák elterjedése átível a nemzetközi határokon, ami megnehezíti a szabályozás végrehajtását. Ráadásul az AI fejlődő képességei megelőzhetik hatékony kormányzási keretrendszerek létrehozását.
Kihívások és vita:
A kulcskérdések között jelentkező kihívások közé tartozik a gonosz tevékenységek azonosítása és tulajdonítása konkrét szereplőknek, mivel sokan takarják személyazonosságukat vagy külföldről működnek. Emellett folyik a vita a szólásszabadság és a hamis információ ellensúlya között, valamint az technológiai vállalatok szerepéről az állami hatóságokhoz képest a tartalom szabályozása terén.
A mesterséges intelligencia előnyei:
– Lehetővé teszi az adatok hatékony feldolgozását és elemzését a közvélemény trendjeinek megértése érdekében.
– Segíti a lényeges hírek vagy vészhelyzeti figyelmeztetések gyors terjesztését.
A mesterséges intelligencia hátrányai:
– Az AI-t felhasználhatják hamis narratívák erősítésére és kifinomult dezinformációs kampányok létrehozására.
– Aggodalmakat vet fel a média és a demokratikus intézményekbe vetett bizalom eróziójáról.
Szabályozási törekvések és etikai kérdések:
Az AI fejlesztésének előrelépései arra ösztönözték a társadalmi használat és a szabályozási intézkedésekkel kapcsolatos etikai megbeszéléseket, hogy megelőzzék a politikai arénában történő visszaéléseket. Szervezetek és kormányok világszerte egyre tisztában vannak az etikai kihívásokkal és egyre inkább dolgoznak az olyan politikák kidolgozásán, amelyek megoldást jelentenek az AI által felvetett etikai kihívásokra.
Ha további információkat szeretne olvasni az AI következményeiről és az általános társadalmi hatásáról, akkor az alábbi linkeken tájékozódhat:
– OpenAI
– Egyesült Nemzetek Digitális Együttműködés
– Egészségügyi Világszervezet (egészségügyi kapcsolatos AI kérdések)
The source of the article is from the blog aovotice.cz