Egy friss jelentés kimutatta, hogy az OpenAI gyorsította az új AI modellek fejlesztését, miközben elhanyagolta a biztonsági protokollokat és a biztonsági intézkedéseket. Ismeretlen alkalmazottak által felvetett aggályok merültek fel, akik nyílt levelet írtak, kifejezve aggodalmukat az AI rendszerek építésében felügyelet hiánya miatt. Az OpenAI válaszul létrehozott egy új biztonsági bizottságot, amely a kuratóriumi tagokból és a kiválasztott vezetőkből áll, hogy felülvizsgálja és javítsa a biztonsági protokollokat.
Annak ellenére, hogy biztonsági protokoll elhanyagolása miatt vádak merültek fel, három OpenAI alkalmazott, névtelenséget kérve nyilatkozva a The Washington Postnak, megosztotta, hogy a csapatnak nyomás nehezedett az új tesztelési protokoll gyors bevezetésére, amelyet „az AI rendszerek által okozott katasztrofális károk megelőzése” érdekében terveztek, hogy megfeleljenek az OpenAI vezetése által meghatározott májusi GPT-4 Omni beindítás ütemezésének.
A biztonsági protokollok célja az, hogy az AI modellek ne nyújtsanak káros információkat, és ne segítsenek veszélyes cselekmények végrehajtásában, mint például vegyi, biológiai, radiológiai és nukleáris fegyverek (VEBNF) kialakításában vagy kibertámadásokban való részvételben.
Emellett a jelentés egy hasonló esetet említett, amely az GPT-4o bevezetése előtt történt, amit az OpenAI legfejlettebb AI modelljeként írtak le. A bevezetési terveket anélkül készítették elő biztonságosan, az egy OpenAI alkalmazott nyilatkozott a jelentésben, hogy „alapvetően elbuktunk ebben a folyamatban.”
Ez nem az első eset, hogy OpenAI alkalmazottai a cégben fennálló világos biztonsági és biztonsági protokollok figyelmen kívül hagyására hívták fel a figyelmet. Az előző hónapban az OpenAI és a Google DeepMind volt és jelenlegi alkalmazottai nyílt levelet írtak, kifejezve az aggályaikat az új AI rendszerek fejlesztésében fennálló felügyelet hiánya miatt, amelyek komoly kockázatokat jelenthetnek.
A levél a kormány beavatkozását, szabályozó mechanizmusokat és a munkaadók által kínált hatékony védelemre szólított fel a kiszivárogtatókkal szemben. Az OpenAI három alapítója közül kettő, Jeffrey Hinton és Yoshua Bengio támogatta a nyílt levelet.
Májusban az OpenAI bejelentette, hogy létrehoz egy új biztonsági és biztonsági bizottságot, melynek feladata az OpenAI műveleteinek és az AI projektek kritikus biztonsági és biztonsági döntéseinek értékelése és javítása. Nemrég megosztottak új irányelveket a felelős és etikus AI modellek építéséhez, Model Spec néven.
Egy friss jelentés további részleteket fedett fel az OpenAI biztonsági protokollok tekintetében felmerülő aggályokról, megvilágítva a kulcsfontosságú kérdéseket és kihívásokat az ügy körül.
Kulcskérdések:
1. Milyen konkrét biztonsági protokollok lettek elhanyagolva az OpenAI-nál az AI modellek fejlesztése során?
2. Hogyan befolyásolta az új tesztelési protokollok gyors bevezetésére nehezedő nyomás a biztonsági intézkedéseket?
3. Milyen potenciális kockázatokkal járnak azok az AI rendszerek, amelyek nem rendelkeznek megfelelő biztonsági protokollokkal?
4. Hogyan javasolták az alkalmazottak és az iparági szakértők az OpenAI-nál felmerült biztonsági aggodalmak kezelését?
5. Milyen előnyei és hátrányai vannak az OpenAI megközelítésének az AI modellfejlesztés prioritizálása kapcsán a biztonsági protokollok felett?
Kulcskérdések és viták:
– Az OpenAI alkalmazottai nyomást éreztek arra, hogy az új AI modellek bevezetése érdekében előtérbe helyezzék a robust biztonsági protokollokat, ami aggodalmakat váltott ki a potenciális katasztrofális károk iránt.
– A biztonsági protokollok elhanyagolása veszélyeztetheti, hogy az AI rendszerek káros információkat nyújtsanak vagy veszélyes tevékenységekben vegyenek részt, például fegyverek készítését vagy kibertámadásokat facilitálva.
– Az AI rendszerek építésében a felügyelet hiánya jelentős kockázatokat és etikai dilemmákat okozhat, amelyek sürgős figyelmet és beavatkozást tesznek szükségessé.
– Az igény a kormányzati szabályozásra, a kiszivárogtatók védelmére és a biztonsági intézkedések fokozására tükrözi a nővekvő aggodalmat a kontrollálatlanul fejlődő AI technológiák miatt.
Előnyök:
– Az AI modellek gyors fejlesztése forradalmi előrelépésekhez vezethet a technológia és az innováció terén.
– Az OpenAI elkötelezettsége egy biztonsági és biztonsági bizottság felállítására proaktív megközelítést mutat a biztonsági aggodalmak kezelésére és a protokollok javítására.
– A legújabb irányelvek a felelős és etikus AI modellek építésére, a Model Spec, arra utalnak, hogy hajlandóak előtérbe helyezni a biztonságot és az etikai szempontokat.
Hátrányok:
– A biztonsági protokollok elhanyagolása az AI fejlesztésében komoly kockázatokat jelent a társadalom számára, amely potenciálisan nem szándékolt következményekhez és káros eredményekhez vezethet.
– A nyomás az ambiciózus bevezetési ütemtervek teljesítésére veszélyeztetheti a biztonsági intézkedéseket és akadályozhatja a teljes körű kockázatértékeléseket.
– Az AI rendszerek építésében fennálló felügyelet és elszámoltathatóság hiánya alááshatja a közvélemény bizalmát, és etikai aggodalmakat vet fel az mesterséges intelligencia területén.
További információkért az AI fejlesztésében szükséges biztonsági protokollok fontosságáról és az OpenAI gyakorlatai körüli folyamatban lévő vitákról látogasson el az OpenAI hivatalos weboldalára a következő linken: OpenAI.
The source of the article is from the blog guambia.com.uy