AIセキュリティの擁護者が内部告発者権利を求める
Right to Warnとして知られるOpenAIの元および現職従業員の集団は、人工知能（AI）業界における「批評のための開かれた文化」の必要性を声高に訴えています。彼らは、セキュリティ関連の問題について告発する権利を従業員が報復を恐れることなく行えるようにする運動を展開しています。この動きは、AIの開発がしばしば不透明であり、沈黙がセクターに危険をもたらす可能性を浮き彫りにしています。
AI専門家による口封じ命令の廃止を要請
Right to Warnは、AI分野における口外および信用毀損契約の終了を求めています。こうした条項は従業員にとって従来の要件となってきましたが、この集団はこれらが標準的な実践であってはならないと主張しています。これにより、専門家が匿名で懸念を報告できるようになり、企業からの報復から保護されることとなります。
OpenAIのサークル外からのサポート
彼らのビジョンと要求を概説した公開書簡は、ジェフリー・ヒントンやYoshua BengioなどAIコミュニティの著名人から支持を受けています。これはAIに対する不十分な規制に対する増大する懸念の中で重要なサポートです。
さらに、この集団の影響はOpenAIの関係者にとどまらず、特にOpenAIの競合企業Anthropicに先立ちGoogle DeepMindのNeel Nanda、DeepMindの卒業生であるRamana Kumarなども公開書簡を支持しています。
AIリスクに関するリーダーシップの姿勢を巡る議論
特にCEOのSam Altmanが一つの企業や個人によるAIの制御への盲目的な信頼の危険性を強調しているにもかかわらず、OpenAIのリーダーシップ内で矛盾が生じているようです。Altman氏はRight to Warnの目的に明らかに同調しているにもかかわらず、従業員の懸念を抑える契約を認めていることで批判を受けています。
公開書簡の署名者であり元OpenAIの従業員であるWilliam Saunders氏は、Altman氏の立場の矛盾を強調しています。情報共有を提唱しながらも、Altman氏の方針は特別な条項を通じて従業員の声を封じ込める実質的なものであるとしています。
業界の反応とOpenAIの対話へのコミットメント
Right to Warnの専門家メンバーであるJacob Hilton氏は、AI企業に対して安全性と倫理に対する約束を果たすよう挑戦しています。彼は、従業員が結果を恐れずに発言する自由が公衆の信頼に関わると主張しています。
これらの懸念への回答として、OpenAIはニューヨーク・タイムズに接触し、リスク評価における科学的方法について疑義を晴らそうとしています。AIに関する徹底的な議論を維持することに専念していると再確認し、同社は政府および市民社会との協力を続けることを誓っています。
Right to WarnがAI分野内の議論を解放する取り組みは、支持されるべきイニシアチブであるかという疑問を提起しています。
AI労働者、特にRight to Warnとして知られる集団のメンバーは、透明性と迅速に進化するAIセクターにおける安全意識の環境を維持するために重要な内部告発者保護を求めています。このトピックはいくつか重要な質問と問題を提起しています。
The source of the article is from the blog elperiodicodearanjuez.es