Lidia PerskaNedávná zpráva odhalila, že OpenAI urychluje vývoj nových modelů AI a zanedbává bezpečnostní protokoly a opatření. Zaměstnanci, kteří nepřáli být zveřejněni, podepsali otevřený dopis vyjadřující znepokojení nad nedostatečným dozorem při konstrukci AI systémů. Na to odpovědělo OpenAI ustanovením nového výboru pro bezpečnost a ochranu, ve kterém jsou členy členové správní rady a vybraní manažeři k posouzení a zdokonalení bezpečnostních protokolů.
Navzdory obviněním z nedbalosti v bezpečnostních protokolech přislíbený tři zaměstnanci OpenAI anonymně pro Washington Post, že tým byl pod tlakem urychlit zavedení nového testovacího protokolu navrženého k „prevenci AI systémů před způsobením katastrofální škody“, aby splnili plánovaný start GPT-4 Omni v květnu podle plánu vedení OpenAI.
Bezpečnostní protokoly mají zajistit, aby AI modely neposkytovaly škodlivé informace nebo nepomáhaly s vykonáním nebezpečných akcí, jako je výroba chemických, biologických, radiologických a jaderných zbraní (CBRN) nebo asistování při kybernetických útocích.
Kromě toho zpráva připomněla podobný incident, který nastal před spuštěním GPT-4o, popsáno jako nejvyspělejší model AI od OpenAI. Plány na spuštění byly vytvořeny bez zajištění jeho bezpečnosti, s citátem zaměstnance OpenAI ve zprávě: „v tomto procesu jsme zásadně selhali.“
To není první případ, kdy zaměstnanci OpenAI poukazují na zjevný nedostatek bezpečnostních a ochranných protokolů ve společnosti. Minulý měsíc bývalí a současní zaměstnanci OpenAI a Google DeepMind podepsali otevřený dopis vyjadřující obavy z nedostatečného dozoru při vývoji nových AI systémů, které by mohly představovat značné rizika.
Dopis žádal zásah vlády, regulační mechanismy a robustní ochranu whistleblowerů zaměstnavateli. Dva ze tří spoluzakladatelů OpenAI, Jeffrey Hinton a Yoshua Bengio, podpořili otevřený dopis.
V květnu OpenAI oznámilo zřízení nového výboru pro bezpečnost a ochranu pověřeného hodnocením a zdokonalením provozů AI společnosti a zajištěním kritických bezpečnostních a ochranných rozhodnutí pro projekty a provozy OpenAI. Společnost nedávno sdílela nové směrnice pro vytváření odpovědných a etických modelů AI, označených jako Model Spec.
Nedávná zpráva odhalila další podrobnosti týkající se obav z bezpečnostních protokolů v OpenAI, přinášející klíčové otázky a výzvy týkající se této otázky.
Klíčové Otázky:
1. Jaké konkrétní bezpečnostní protokoly byly zanedbány OpenAI během vývoje AI modelů?
2. Jak tlak na urychlené zavedení nových testovacích protokolů ovlivnil bezpečnostní opatření?
3. Jaká rizika jsou spojena s AI systémy, které chybí dostatečné bezpečnostní a ochranné protokoly?
4. Jak navrhli zaměstnanci a odborníci odvětví řešit bezpečnostní obavy v OpenAI?
5. Jaké jsou výhody a nevýhody přístupu OpenAI k prioritizaci vývoje AI modelů před bezpečnostními protokoly?
Klíčové Výzvy a Kontroverze:
– Zaměstnanci OpenAI pociťovali tlak dát přednost spuštění nových modelů AI před zajištěním robustních bezpečnostních protokolů, což vyvolalo obavy o možnost katastrofické škody.
– Nedbalost v bezpečnostních protokolech by mohla vést k tomu, že AI systémy poskytují škodlivé informace nebo se zapojují do nebezpečných akcí, jako je usnadňování výroby zbraní nebo kybernetických útoků.
– Nedostatek dozoru při konstrukci AI systémů by mohl představovat značná rizika a etické dilemata, které vyžadují okamžitou pozornost a intervenci.
– Volání po vládní regulaci, ochraně whistleblowerů a zdokonalených bezpečnostních opatřeních odráží rostoucí obavy z nekontrolovaného vývoje AI technologií.
Výhody:
– Urychlený vývoj AI modelů může vést k průlomovým pokrokům v technologii a inovacích.
– Závazek OpenAI zřídit výbor pro bezpečnost a ochranu ukazuje proaktivní přístup k řešení bezpečnostních obav a zlepšování protokolů.
– Nejnovější směrnice pro odpovědné a etické konstrukce modelů AI, Model Spec, naznačují ochotu dávat přednost bezpečnostním a etickým hlediskům.
Nevýhody:
– Zanedbání bezpečnostních protokolů při vývoji AI představuje značná rizika pro společnost, která by mohla vést k nechtěným následkům a škodlivým výsledkům.
– Tlak na splnění ambiciózních plánů spuštění by mohl ohrozit bezpečnostní opatření a bránit důkladnému posouzení rizik.
– Nedostatečný dohled a odpovědnost při konstrukci AI systémů mohou podkopat důvěru veřejnosti a zvýšit etické otázky v oblasti umělé inteligence.
Pro více informací o důležitosti bezpečnostních protokolů při vývoji AI a aktuální diskuse týkající se postupů OpenAI navštivte oficiální webové stránky OpenAI na OpenAI.
