A Generatív AI Kihívása az Választások Kontextusában
Annak ellenére, hogy egyre több bizonyíték van Joe Biden elnök 2020-as győzelmét támogató, még mindig szignifikáns számú republikánus kérdőjelezi meg az ő győzelme jogosságát. Ez a szkepticizmus azért alakult ki, mert olyan választási csalási állítások terjedtek szét jobboldali jelöltek között, akik politikai tisztségért versengenek. Most, a generatív mesterséges intelligencia (AI) megjelenésével a választásokkal kapcsolatos félrevezető információk problémája esetlegesen súlyosbodhat.
A Center for Countering Digital Hate (CCDH) friss jelentése rávilágított a generatív AI kapcsolódó kockázataira a választások alatt terjedő félrevezető információk terjedésében. Míg a generatív AI eszközöket fejlesztő vállalatok azt állítják, hogy bevezettek biztonsági intézkedéseket ezeknek a félrevezető információknak a terjesztésének megakadályozására, a CCDH kutatói képesek voltak megkerülni ezeket az intézkedéseket, és létrehozni félrevezető képeket.
A CCDH kutatói tesztelték különböző generatív AI platformokat, beleértve a ChatGPT Plust, Midjourneyt, Dream Studiot és Image Creatort. Az eredmények azt mutatták, hogy a Midjourney különösen hajlamos volt félrevezető képek előállítására választásokkal kapcsolatban, körülbelül 65%-os pontossági aránnyal. Összehasonlításképpen, a ChatGPT Plus csak 28%-os időnként hozott létre ilyen képeket.
Azon aggodalmak egyike, amire Callum Hood, a CCDH fő kutatója felhívta a figyelmet, az ezeken a platformokon a képek létrehozásával kapcsolatos világos irányelvek és biztonsági intézkedések hiánya, amelyek felhasználhatók hamis állítások támogatására egy ellopott választásról. Hood hangsúlyozza, hogy a platformoknak nemcsak a félrevezető képek létrehozásának megakadályozására kell összpontosítaniuk, hanem hatékonyan az általuk ismert félrevezető tartalom felismerésére és eltávolítására is.
Bár az OpenAI lépéseket tett a probléma kezelése érdekében, például tiltotta a demokratikus részvételt akadályozó képeket, más platformok, mint például a Midjourney és a Dream Studio, nem foglalkoztak kifejezetten a politikai vagy félrevezető tartalom létrehozásával. Ez aggodalmakat vet fel a generatív AI platformok átfogó felkészültségével kapcsolatban az választásokkal kapcsolatos információk pontossága és integritása biztosításában.
Az előttünk álló választások valódi teszteként szolgálnak a generatív AI platformok biztonsági protokolloinak. Hood hangsúlyozza a haladás szükségességét mind azokban az eszközök fejlesztése terén, melyek hatékonyan képesek megakadályozni a félrevezető képek készítését, mind a robosztus platformok implementálásában, amelyek felismerhetik és eltávolíthatják ezeket a tartalmakat. Az választások integritásának biztosítása és a félrevezető információk terjedésének megakadályozása közös felelősség az AI fejlesztők, a platform üzemeltetők és a politikai döntéshozók között.
The source of the article is from the blog macholevante.com