最近、Microsoft はポリシーを改正し、米国の警察署が Azure OpenAI サービスを利用する際の新たな制限を設けました。このアップデートでは、米国の法執行機関におけるテキストや音声の解析に Azure OpenAI サービスを展開することを明示的に禁止しています。
さらに広範囲な指令により、グローバル規模での法執行活動に関して新たな制限が設けられ、特にボディカメラなどのモバイルデバイスでのリアルタイム顔認識アプリケーションは許可されません。これらの変更は、公共の場で非規制のリアルタイム識別試行の可能性に直接立ち向かうものです。
このポリシーの改訂は、法執行技術に特化した Axon 社による製品の発表に続きました。この製品は OpenAI の GPT-4 モデルを利用して、警察のボディカメラからの音声を分析します。この発表により、AIに内在する欠陥やアルゴリズム内に埋め込まれた人種的偏見といった重要な問題が浮かび上がり、特に有色人種コミュニティに不均等な影響を及ぼす可能性が議論されました。
この禁止の範囲は、米国内の警察署にのみ限定されています。規定は、特定の設定で固定カメラを使用した顔認識を排除していません。この開発は、Microsoft と OpenAI が慎重に法執行および防衛プロジェクトに関わる傾向と一致しています。OpenAI はかつて軍事との協力に消極的でしたが、現在はサイバーセキュリティを含むペンタゴンの取り組みに積極的に貢献しています。
米国国防総省のプロジェクトに対する承認をさらに得ることを目指す Azure OpenAI サービスに関して、テックパートナーは情報の一部を非公開にし、最近のポリシー変更に関するコメントを控えています。
警察への生成AI技術のアクセスを制限する Microsoft の取り組みに関連する重要な質問や問題について、以下にいくつかのキーポイントを示します：