最近の報告によれば、OpenAI は新しい AI モデルの開発を急いで進めている一方で、安全プロトコルやセキュリティ対策を無視していることが明らかになりました。AI システムの構築における監督不足に関する不安を表明した非公開の従業員たちによって、オープンレターに署名がなされました。OpenAI はこの対応として、安全プロトコルを評価および強化するために、取締役会メンバーと選ばれたマネージャーからなる新しい安全保障委員会を設立しました。
安全プロトコルの怠慢を非難されながらも、The Washington Post に匿名で話した 3 人の OpenAI の従業員たちは、GPT-4 Omni の 5 月の予定通りの打ち上げに追いつくために、”AI システムが壊滅的な被害を引き起こさない” 新しいテストプロトコルの実装を急がされたと共有しました。
安全プロトコルは、AI モデルが有害な情報を提供せず、化学物質、生物学、放射線学、核兵器(CBRN)の構築やサイバー攻撃の支援など、危険な行動を助けないようにすることを目的としています。
さらに、報告書は、GPT-4o のローンチ前に発生した似た事件にも言及しています。OpenAI の最も先進的な AI モデルと説明された GPT-4o の安全性を確保せずに計画が立てられ、報告書で引用された OpenAI の従業員は、”このプロセスで基本的に失敗した” と述べています。
OpenAI の従業員が同社内で安全プロトコルとセキュリティプロトコルを無視している明白な事例を指摘したのは初めてのことではありません。先月、OpenAI と Google DeepMind の元従業員および現在の従業員が、新しい AI システムの開発に関する監督不足について懸念を表明するオープンレターに署名しました。
このレターでは、政府の介入、規制メカニズム、雇用主による告発者の保護の強化が求められました。OpenAI の 3 人の共同設立者のうち 2 人、Jeffrey Hinton と Yoshua Bengio がこのオープンレターを支持しました。
OpenAI は 5 月に、企業の AI 操作を評価および強化し、OpenAI プロジェクトと操作のための重要な安全保障の決定を確保するための新しい安全保障委員会の設立を発表しました。最近、同社は責任ある倫理的 AI モデル構築のための新しいガイドラインである Model Spec を共有しました。
最近の報告書は、OpenAI における安全プロトコルに関する懸念に関する追加の詳細を明らかにし、その問題に関する重要な疑問や課題を浮き彫りにしました。
主要な疑問:
1. OpenAI が AI モデルの開発中に無視した具体的な安全プロトコルは何ですか？
2. 新しいテストプロトコルの実装を急いだ圧力が安全施策にどのように影響しましたか？
3. 十分な安全保障プロトコルのない AI システムにはどのような潜在的なリスクがありますか？
4. OpenAI の安全上の懸念に取り組むために従業員や業界の専門家たちはどのような提案をしましたか？
5. AI モデルの開発を安全プロトコルより優先する OpenAI のアプローチの利点と欠点は何ですか？
主要な課題と論争:
– OpenAI の従業員は、壊滅的な被害の可能性についての懸念を呈し、堅固な安全プロトコルよりも新しい AI モデルのローンチを優先させるよう圧力を感じました。
– 安全プロトコルの怠慢により、AI システムが有害な情報を提供したり、武器の作成やサイバー攻撃などの危険な行動に関与する可能性があります。
– AI システムの構築における監督不足は、重大なリスクや倫理的ジレンマを引き起こす可能性があり、直ちに注意と介入が必要です。
– AI 技術の未検証の開発に対する懸念の高まりを反映し、政府規制、告発者保護、安全対策の強化が求められています。
利点:
– AI モデルの加速した開発は、技術とイノベーションにおける画期的な進歩をもたらす可能性があります。
– OpenAI が安全とセキュリティ委員会の設立に取り組んでいる姿勢は、安全上の懸念に対処し、プロトコルを改善しようとする積極的なアプローチを示しています。
– 倫理的責任ある AI モデル構築のための最新のガイドラインである Model Spec は、安全性と倫理的な考慮を優先する意欲を示しています。
欠点:
– AI 開発における安全プロトコルの怠慢は、社会への著しいリスクを引き起こす可能性があり、思わぬ結果や有害な結果をもたらす可能性があります。
– 野心的なローンチスケジュールの達成に対する圧力が安全対策に支障をきたし、徹底的なリスク評価を妨げる可能性があります。
– AI システム構築における適切な監督や説明責任の不足は、一般の信頼を損ない、人工知能分野で倫理的懸念を引き起こす可能性があります。
AI 開発における安全プロトコルの重要性や OpenAI の実践に関する議論の詳細については、OpenAI の公式ウェブサイト OpenAI をご覧ください。
The source of the article is from the blog yanoticias.es