最近、マイクロソフトが提案したところによると、OpenAIの画像生成ツールであるDALL-Eを使用して、国防総省（DoD）が軍事作戦用のソフトウェアを構築するのを支援する計画が浮上しています。この発表は、OpenAIが以前の軍事目的の禁止措置を解除し、この分野での潜在的な協力を可能にした直後に行われました。
マイクロソフトのプレゼンテーションである「DoDデータを活用した生成AI」では、DoDがOpenAIの機械学習ツールを活用し、ChatGPTテキスト生成ツールやDALL-E画像生成ツールなどを利用する方法が概説されています。これらのツールは、文書分析から機械のメンテナンスまで、軍事作戦内のさまざまな作業に適用できます。マイクロソフトのOpenAIへの大規模な投資は、両社の間で密接な協力関係を育んでいます。ただし、マイクロソフトとOpenAIは、許可やクレジットなしにジャーナリズムを利用したことで法的措置を受けています。
マイクロソフトの文書に含まれている資料は、2023年10月に開催された国防総省の「AIリテラシー」研修セミナーで提示されたものです。このイベントでは、マイクロソフトやOpenAIなどのさまざまな機械学習企業が、ペンタゴンに対して提供や能力などを紹介しました。
一般に公開されているファイルは、非営利のAlethia Labsのウェブサイトで発見されました。Alethia Labsは、連邦政府の技術調達を支援する非営利コンサルタントであり、記者のJack Poulson氏がこのプレゼンテーションの一環としてこれらの資料を発見しました。Alethia Labsは、急速に人工知能ツールを統合するためにペンタゴンと緊密に協力しており、昨年からペンタゴンの主要AIオフィスと契約を結んでいます。
よくある質問（FAQ）
1. バトルマネジメントシステムとは何ですか？
バトルマネジメントシステムとは、戦闘シナリオ中に軍の指導者が包括的な状況認識を得るために使用する指揮統制ソフトウェアスイートです。これにより、砲火の調整や空爆の目標識別、部隊の移動などの行動を調整することができます。
2. DALL-Eはバトルマネジメントシステムでどのように役立ちますか？
DALL-Eを利用することで、ペンタゴンのコンピューターは「視覚」能力を強化する可能性があります。DALL-Eによって生成される画像は、コンピューターが戦場の状況をよりよく「見る」ことや理解することを可能にします。この改善により、目標の識別や破壊作戦に大きく役立ちます。
3. マイクロソフトは既にDALL-Eを軍事目的で使用していますか？
ザ・インターセプトによると、マイクロソフトはDALL-Eを戦闘ソフトウェアのトレーニングに使用することを提案していますが、現時点では実施されていません。マイクロソフトはこれらがお客様との会話を通じて議論された潜在的な利用事例であると強調しています。
4. OpenAIは国防総省にツールを売却しましたか？
OpenAIはマイクロソフトのペンタゴンへの提案への関与を否定し、国防総省にツールを販売していないと主張しています。OpenAIのポリシーは、ツールを使って兵器を開発したり他人に害を与えたり、財産を破壊したりすることを厳格に禁止しています。
OpenAIのスポークスパーソンであるLiz Bourgeous氏は、OpenAIモデルがプレゼンテーション資料で説明されているような役割で使用されていないと繰り返して述べています。さらに、OpenAIは、特にAPIやChatGPTを使用してこれらのコンテキストで防衛機関と提携していないと強調しています。
考慮すべきOpenAIの以前のポリシーからすると、DALL-Eの軍事的な応用は禁止されていました。マイクロソフトは、もしペンタゴンがマイクロソフトとの契約を通じてDALL-Eや他のOpenAIツールを使用する場合、Microsoftの利用ポリシーの対象となると明確に述べています。それにもかかわらず、OpenAIの技術を使用して軍事の殺傷力や破壊力を高めることは、同社が安全な人工知能を人類のために開発することを中心に据えている会社にとって、重要な転換点となります。
オックスフォード大学ブラヴァトニク公共政策大学院の客員フェローで技術倫理に焦点を当てるBrianna Rosen氏は、そのような技術に関連する倫理的考慮事項を強調しています。OpenAIの技術が政府によって、良い目的に使用されるか悪い目的に使用されるかにかかわらず、基本的には政治的な選択であると指摘しています。
プレゼンテーション資料には、具体的にDALL-Eがいかにして戦場管理システム内で展開されるかについての詳細が提供されていません。ただし、これらのシステムをトレーニングするという言及から、ペンタゴンに合成トレーニングデータを提供する可能性があることが示唆されています。DALL-Eによって生成された大量の人工画像を軍のソフトウェアに露出させることで、そのソフトウェアは地上の敵の位置などの関連するターゲットをよりよく認識できるようになります。
倫理的な懸念に対処するために、以前OpenAIで働いていた機械学習セーフティエンジニアであるHeidy Khlaaf氏は、軍事用ソフトウェアのトレーニングにDALL-Eを使用することの正確性と信頼性に疑問を投げかけます。Khlaaf氏は、現在のDALL-Eの生成画像は現実世界の状況に対する忠実度に欠けており、戦場管理システムの微調整において効果を損なうと主張しています。
結論として、マイクロソフトがOpenAIのDALL-Eを軍事作戦に利用する提案をしていますが、現時点では実施されていません。OpenAIはこの具体的な提案に関与していないと明言し、自社のツールを有害な目的に使用することを防ぐことに力を入れていることを強調しています。DALL-Eがバトルマネジメントシステムで果たす可能性については、正確性、倫理的な懸念、およびOpenAIの全体的な使命を考慮した上で、さらなる検討が必要です。
The source of the article is from the blog kewauneecomet.com