Відкритий лист, підготовлений професіоналами AI-індустрії, підвищує тривогу через недостатній контроль за безпекою у секторі штучного інтелекту. Одинадцять осіб із зв’язками з OpenAI, як поточні, так і колишні члени, нарівні з двома співробітниками Google DeepMind, один з яких має досвід роботи у Anthropic, висловили свою серйозну тривогу.
Ці професіонали підкреслили, що компанії зі штучним інтелектом мають значні, неоприлюднені знання про сильні та слабкі сторони своїх систем, включаючи ефективність заходів безпеки та пов’язані рівні ризику для можливих пошкоджень. Вони наголосили, що майже немає обов’язку для цих компаній розголошувати цю критичну інформацію урядовим органам чи громадськості.
Хоча OpenAI захистила свої внутрішні процеси звітності, стверджуючи, що вони не випускають нові технології без відповідних заходів безпеки, група вважає, що цього недостатньо. Листа стверджує, що парадокс полягає в тому, що компанії з AI публічно обіцяють відданість розвитку безпечних технологій, тим часом дослідники та співробітники попереджають про недостатній нагляд.
Занепокоєні працівники вказують на те, що ці виявлення вимагають покращених заходів захисту для конфіденційних співробітників. Підписані вимагають пильності до ключових принципів, спрямованих на прозорість та відповідальність, включаючи заборону на угоди про недискусію, що заважають співробітникам обговорювати ризики, пов’язані з AI. Крім того, вони пропонують анонімний механізм для співробітників для повідомлення занепокоєнь безпосередньо членам ради.
Згідно з листом, поточні та колишні працівники є серед кількох, хто може притягнути AI компанії до відповідальності перед громадськістю відсутності ефективного громадського нагляду. Це запальне заклик звучить ще більш глибоко внаслідок недавніх відставок з OpenAI, які включили співзасновника Ілью Суцкевера та дослідника з безпеки Яна Лейке. Сам Лейке висловив занепокоєння щодо переходу OpenAI від культури безпеки до орієнтації на привабливі продукти.
Цей лист виходить на передній план як ключовий момент у дискусії про штучний інтелект, що свідчить про заклик до дій для більш міцних, прозорих та відповідальних перевірок безпеки в галузі штучного інтелекту.
Ключові питання та відповіді:
1. Яка основна турбота професіоналів AI-індустрії у відкритому листі?
– Основна турбота полягає в явній відсутності належного контролю за безпекою в секторі штучного інтелекту. Професіонали стверджують, що компанії з AI мають значні знання про сильні та слабкі сторони своїх систем штучного інтелекту, а також ефективність заходів безпеки, які вони не зобов’язані повністю розкривати стороннім сторонам, таким як уряд чи громадськість.
2. Чому вимагають захисту конфіденційних співробітників у сфері штучного інтелекту?
– Вимагають захисту конфіденційних співробітників, оскільки співробітники, які мають дострокові знання про внутрішні процеси компаній з AI, можуть бути обмежені у висловленні стурбованості щодо ризиків безпеки через угоди про недискусію або страх перед репресіями. Посилені заходи забезпечили б більш відкрите обговорення ризиків AI і сприяли б кращій відповідальності.
3. Які запропоновані принципи у відкритому листі?
– Лист підтримує прозорість та відповідальність у розвитку штучного інтелекту, включаючи заборону угод про недискусію, які перешкоджають відкритому обговоренню ризиків AI, а також створення анонімного механізму для повідомлення занепокоєнь членам ради компанії.
Ключові виклики або протиріччя:
1. Прозорість проти Конкурентної переваги: Компанії з AI можуть опиратися прозорості для захисту власної інформації, яка надає їм конкурентну перевагу, що може бути в протиріччі з правом громадськості розуміти потенційні ризики, пов’язані з технологіями штучного інтелекту.
2. Регулювання та нагляд: Розробка ефективного регулювання, що забезпечує безпеку штучного інтелекту, не пригнічуючи інновації, є значним викликом. Існує також дебати на тему того, які зацікавлені сторони мають брати участь у створенні таких регуляцій та як слід управляти міжнародним співробітництвом у зв’язку з глобальним характером розробки штучного інтелекту.
3. Захист співробітників-передавачів інформації: Втілення надійних заходів захисту співробітників, що сприяють звітуванню про неетичні практики або стурбованості щодо безпеки без страху перед переслідуванням або втратою роботи, може бути спірним, оскільки це може включати законодавчі зміни та потенційно розкрити чутливу інформацію галузі.
Переваги та недоліки:
Переваги
– Підвищення безпеки: Більший нагляд може сприяти розвитку безпечних систем штучного інтелекту, визнавати та запобігати ризикам проактивно.
– Довіра громадськості: Прозорість та відповідальність можуть сприяти довірі громадськості до компаній з AI та їх продуктів.
Недоліки
– Обмеження інновацій: Якщо погано виконано, збільшений нагляд може обмежити інновації, створюючи обтяжливі регуляції, які обмежують експерименти та розвиток.
– Операційні ризики: Розкриття заходів безпеки та вразливостей системи може викласти системи штучного інтелекту на ризики зловживання з боку зловживаючих.
Для отримання додаткової інформації про етику та управління AI, ці посилання на пов’язані організації можуть бути корисними (переконайтеся, що URL-адреси є дійсними перед переходом):
– Internet Engineering Task Force (IETF)
– Institute of Electrical and Electronics Engineers (IEEE)
– Association for Computing Machinery (ACM)
– AI Global