Останній звіт показав, що OpenAI прискорює розвиток нових моделей ШШ, не дотримуючись протоколів безпеки та заходів безпеки. Співробітники, які залишились неназваними, висловили відчуття незручності щодо недостатнього контролю у процесі побудови ШШ-системи, підписавши відкритий лист. У відповідь OpenAI створила новий комітет із безпеки, в який увійшли члени ради та обрані керівники для оцінки та підвищення протоколів безпеки.
Незважаючи на заяви про недбале ставлення до протоколів безпеки, троє співробітників OpenAI, які висловились анонімно в інтерв’ю для The Washington Post, поділились відчуттям тиску на те, щоб поспішити із впровадженням нового тестувального протоколу, призначеного “запобігти ШШ-системам нанесенню катастрофічного шкоди”, щоб відповісти запланованому запуску GPT-4 Omni в травні за розкладом, визначеним керівництвом OpenAI.
Протоколи безпеки спрямовані на те, щоб забезпечити, щоб ШШ-моделі не надавали шкідливу інформацію або не брали участь у виконанні небезпечних дій, наприклад у конструюванні хімічної, біологічної, радіологічної та ядерної зброї (ХБРЯ) або в допомозі у кібератаках.
Крім того, звіт підкреслив подібний випадок, що трапився перед запуском GPT-4o, описаний як найбільш розвинена модель ШШ OpenAI. Плани на запуск були складені без забезпечення безпеки, як свідчить цитатка співробітника OpenAI у звіті: “ми фундаментально збентежились у цьому процесі”.
Це не перший випадок, коли співробітники OpenAI вказують на явне порушення протоколів безпеки та заходів захисту в компанії. Минулого місяця колишні й поточні співробітники OpenAI та Google DeepMind підписали відкритий лист, в якому висловили стурбованість недостатнім контролем при розробці нових ШШ-систем, які можуть становити значні ризики.
У листі говориться про необхідність втручання уряду, механізмів регулювання та надійного захисту для осіб, які стають тривожними від роботодавців. Двоє зі трьох співзасновників OpenAI, Джефрі Гінтон та Йошуа Бенджио, підтримали відкритий лист.
У травні OpenAI оголосила про створення нового комітету з безпеки, який має на меті оцінку та покращення ШШ-операцій компанії та забезпечення критичних рішень про безпеку й захист для проектів та операцій OpenAI. Компанія недавно опублікувала нові керівні принципи щодо побудови відповідальних та етичних ШШ-моделей, відомих як Model Spec.
Останній звіт розкрив додаткові деталі щодо стурбованості протоколами безпеки в OpenAI, проливаючи світло на ключові питані та виклики, пов’язані із цим.
Ключові питання:
1. Які конкретні протоколи безпеки були ігноровані OpenAI під час розробки ШШ-моделей?
2. Як тиск на поспішне впровадження нових тестувальних протоколів вплинув на заходи безпеки?
3. Які можливі ризики пов’язані з ШШ-системами, які не мають адекватних протоколів безпеки та захисту?
4. Як пропонують вирішувати співробітники та фахівці галузі питання стосовно безпеки в OpenAI?
5. Які переваги та недоліки в підходу OpenAI до пріоритетів розвитку ШШ-моделей порівняно з протоколами безпеки?
Ключові виклики та суперечності:
– Співробітники OpenAI відчували тиск на пріоритизацію запуску нових ШШ-моделей над забезпеченням надійних протоколів безпеки, що викликало стурбованість через можливість катастрофічної шкоди.
– Недбалість у виконанні протоколів безпеки може привести до того, що ШШ-системи будуть надавати шкідливу інформацію або брати участь у небезпечних діях, наприклад у полегшенні створення зброї чи кібератаках.
– Відсутність контролю при побудові ШШ-систем може створити значні ризики та етичні дилеми, вимагаючи негайної уваги та втручання.
– Виклик до урядового регулювання, захисту осіб, які стають свідками порушень, та покращення протоколів безпеки відображає зростаючу стурбованість щодо неконтрольованого розвитку ШШ-технологій.
Переваги:
– Прискорений розвиток ШШ-моделей може призвести до революційних досягнень у технології та інновації.
– Зобов’язання OpenAI створити комітет з безпеки й захисту свідчить про проактивний підхід до вирішення питань безпеки та поліпшення протоколів.
– Останні керівні принципи щодо відповідального та етичного побудови ШШ-моделей, відомі як Model Spec, свідчать про готовність підкреслити пріоритетність безпеки та етичних питань.
Недоліки:
– Ігнорування протоколів безпеки при розробці ШШ утворює значні ризики для суспільства та може призвести до непередбачених наслідків та шкідливих наслідків.
– Тиск на виконання амбітних графіків запусків може підірвати заходи безпеки та заважати ретельним оцінкам ризиків.
– Відсутність достатнього контролю та відповідальності під час побудови ШШ-систем може підривати довіру громадськості та породжувати етичні питання в галузі штучного інтелекту.
Для додаткової інформації про важливість протоколів безпеки в розробці ШШ та триваючі обговорення щодо практик OpenAI, відвідайте офіційний веб-сайт OpenAI за посиланням: OpenAI.
The source of the article is from the blog zaman.co.at