最近、Microsoft は方針を変更しました。これにより、アメリカの警察機関による Azure OpenAI サービスの使用に新しい制限が設定されました。この更新では、米国の法執行機関でのテキストと音声の分析に Azure OpenAI サービスを展開することを明示的に禁止しています。
さらに大きな指針には、世界規模での法執行活動を含む、特にモバイルデバイス（ボディカメラなど）でのリアルタイムの顔認識アプリケーションの使用が禁止されています。これらの変更は、公共の場での未規制のリアルタイムの同定試みの可能性に直接対抗するものとして現れています。
この政策の改訂は、法執行技術に特化した会社である Axon が新製品を発表した後に行われました。この新製品は、警察用ボディカメラからの音声を分析するために OpenAI の GPT-4 モデルを統合しています。この発表により、AIに固有の欠陥（アルゴリズム内の不正確さや埋め込まれた人種バイアスの創出など）に関する懸念が引き起こされ、これが特に人種差別的に影響を与える可能性があるとされる色のコミュニティに不均等に影響を与える可能性が指摘されました。
禁止の全体像は、その制限が明確です。この政策は、米国の警察部門に限定されています。条件は、特定の設定での静止カメラによる顔認識を排除していないことに注意してください。この展開は、Microsoft と OpenAI が法執行機関や防衛プロジェクトと慎重に関わっていくという方針と一致しています。以前は軍事との協力に消極的で知られていた OpenAI は、現在はサイバーセキュリティを含むペンタゴンの取り組みに積極的に貢献しています。
Azure OpenAI サービスが政府の承認向上を目指し、国防省プロジェクト向けのさらなる支持を求める中、テクノロジーパートナーは一部のコミュニケーションを遮断しており、最近の方針変更に関するコメントを差し控えています。
警察に対する生成的AI技術へのアクセスを制限するマイクロソフトに関するトピックについて、いくつか重要な質問や問題が浮上します。
主要な質問と回答：
1. AI技術の使用に伴う法執行機関の懸念は何ですか？
AIの懸念には、AIアルゴリズムにおけるバイアスのリスク、人種差別的なプロファイリングや市民のプライバシーと市民の権利の侵害が含まれます。
2. なぜマイクロソフトは警察がAI技術を使用することを制限するのですか？
マイクロソフトは、技術の不適切な使用や予期しない結果から生じる潜在的な論争を防止し、潜在的な倫理的および法的問題を含む問題を回避することを目的としている可能性があります。
3. 他の技術企業がどのように警察によるAIの使用を規制していますか？
IBM や Amazon、Microsoft を含むいくつかのテクノロジー企業が、警察に対する顔認識技術の販売を停止または一時停止することによって、懸念に対処しています。
主要な課題と論争：
– アルゴリズムのバイアス： 生成的AIは、そのトレーニングに基づいたバイアスを表す可能性があり、法執行機関における差別や不正義に対する懸念を引き起こしています。
– プライバシー： 監視におけるAIの使用は、特に公共の空間全体に広く展開される場合、プライバシーを侵害する可能性があります。
– 責任： AIシステムがエラーを起こした場合、特に警察活動や刑事司法の文脈で責任を明確にすることが困難になる可能性があります。
利点と欠点：
利点：
– AIは、多くの場合人間よりも迅速かつ正確に大量のデータを処理できるため、調査やリソースの割り当てに役立つ可能性があります。
– AIツールは、人間の分析では見逃されるかもしれないパターンや洞察を特定するのに役立つ可能性があります。
欠点：
– AIへの依存は、歴史的に監視が過剰であったコミュニティなど、過度な警察活動につながる可能性があります。
– AIが既存のバイアスや差別的な慣行を持続させる可能性。
– AIシステムは透明でない場合があり、結論がどのように導かれたのか理解するのが難しい場合があります。
Microsoft およびそのAIイニシアチブに関する詳細情報については、Microsoft のメインウェブサイトをご覧ください: Microsoft.com。
AI技術に関連する一般的な倫理的懸念を理解するためには、OpenAI のメインウェブサイトを訪れることができます。OpenAI は、人工知能分野で先駆的な組織であることを認識してください: OpenAI.com。