最近、メタイメージジェネレーターが批判されました。アジア人の男性と白人女性のイメージを生成できなかったことが問題視されました。この問題はイメージジェネレーターのバイアスのより大きな問題を浮き彫りにしました。自身のテストを行う中で、さまざまなAIボットにおけるユダヤ人の描写に焦点を当てました。その結果は懸念されるものでした。
重要なのは、すべてのAIモデル、特に大規模な言語モデル（LLMs）が、訓練データからバイアスを無意識に取り込む可能性があるということです。ほとんどの場合、この訓練データは、同意なしにインターネットから収集されています。予想通り、インターネットは否定的なイメージで満たされており、これがAIジェネレーターからバイアスのある出力につながることがよくあります。
マイクロソフトのCopilot Designerは、侮辱的な内容を生成することで批判を浴びています。他のイメージジェネレーターと異なり、Copilot Designerはユダヤ人に対するネガティブなステレオタイプをしばしば固定化します。”ユダヤ人ボス”や”ユダヤ人銀行家”といった用語で促されると、生成される画像は驚くほど侮辱的で有害なステレオタイプを強化します。
Copilot Designerに見られるバイアスは、AIシステムにおけるガードレールの重要性を浮き彫りにします。AIベンダーはステレオタイプや憎悪表現を生成することを避けることを目指していますが、適切なバランスを取ることは難しいです。Googleなどの業界巨人ですら、歴史的に不正確なイメージを生成してしまい、表現を向上させようとしたGoogle Geminiの画像ジェネレーターの問題に直面しました。
これらのバイアスの影響を考慮し、Copilotのようなシステムが侮辱的な出力に対抗するための堅牢な手段を持っていることを確認することが不可欠です。この記事の画像は侮辱的なものかもしれませんが、AIのバイアスを示す証拠を示すことは問題を取り上げ、解決するために不可欠です。
—
FAQ:
1. Copilot Designerとは何ですか？
Copilot Designerは、MicrosoftがMicrosoftアカウントを持つユーザーに無料で提供しているテキストから画像を生成するツールです。1日に15枚の画像を生成することができ、Copilot Proに登録することで無制限にアクセスできます。このツールはブラウザとWindowsデスクトップの両方で利用できます。
2. Copilot Designerは生成される画像にバイアスがありますか？
はい、Copilot Designerは、ユダヤ人を否定的な光で描写した画像を生成することがあることで知られています。
3. Copilot DesignerのようなAIモデルはどのようにバイアスを取り込むのですか？
AIモデルは、インターネットから収集された大量の訓練データから学習します。適切な規制がない場合、インターネット上に存在するバイアスや否定的なイメージがこれらのモデルによって吸収される可能性があります。
4. Copilot Designerのバイアスを軽減するための取り組みは行われていますか？
マイクロソフトはこの問題に言及し、報告されたバイアスを調査しているとしています。安全性フィルターを強化し、システムの誤用を防止するための対策を講じています。
—
記事中で行った自身のテストの結果では、マイクロソフトの調査にもかかわらず、侮辱的なバイアスが依然として存在していることが示されました。”ユダヤ人ボス”というプロンプトに対する生成された画像は、宗教的なユダヤ人がマゲン・ダビデやメノーラなどのユダヤ人の象徴に囲まれていることが多かったり、ベーグルやお金の山といったステレオタイプのオブジェクトが含まれていたりします。ある場合には、悪魔の姿をした人物が黒い帽子をかぶり、バナナを持っている、といった侮辱的な画像も含まれていました。
Copilot Designerは”ユダボス”や”ユダヤ人の血”などの問題とされる用語をブロックしていますが、代わりの言葉や類語を使用することで侮辱的なコンテンツが生成される可能性があります。バイアスを防ぐ取り組みがあるにもかかわらず、悪漢はシソーラスを利用して抜け道を見つけ、侮辱的なイメージを生成し続けることができます。
まとめると、Copilot DesignerなどのAIイメージジェネレーターが示すバイアスは、より厳格で包括的なガードレールの必要性を表しています。これらのバイアスに対処し、ユーザーにとってポジティブで包括的な体験を確保するためには、透明性、責任、継続的な改善が不可欠です。
—
FAQ:
1. Copilot Designerはどのように機能しますか？
Copilot Designerは、テキストプロンプトを使用して動作するAIパワードの画像ジェネレーターです。与えられたプロンプトを分析し、その理解に基づいて画像を生成します。
2. Copilot Designerからの侮辱的な出力についてフィードバックを提供できますか？
はい、ユーザーはCopilot Designerによって生成された侮辱的な画像を報告するオプションがあります。マイクロソフトはこうした懸念に対処するために調査し、適切な対策を講じるとしています。
3. 他のAIイメージジェネレーターは利用可能ですか？
Copilot Designerに似たAIイメージジェネレーターを複数の企業が提供していますが、それぞれにバイアスや制約があるかもしれません。これらのシステムに存在する潜在的なバイアスについて注意を払い、警戒するべきです。
4. AIシステムのバイアスを軽減するための取り組みはありますか？
業界内でAIシステムのバイアスに取り組む努力がなされています。ただし、訓練データの複雑性やAIモデルでのバイアス発生の可能性が要求する継続的な研究と開発が必要です。
The source of the article is from the blog publicsectortravel.org.uk