人工知能（AI）は画像制作を含む多くの産業を革新しました。しかし、テック企業がAI画像制作に進出する際には、Firefly、AdobeのAI画像制作ツールなどが抱える重要なチャレンジがあります。FireflyやGoogleのGeminiなどのツールは、生成された画像で人種や民族の特徴を不正確に描写したことで批判されています。
Geminiを巡る論争は、歴史的に不正確な画像を作成した後、そのサービスが終了するほどの影響をもたらしました。例えば、Geminiはアメリカの建国の父たちを黒人として描写する一方、白人を描くことを拒否するなどの誤りがありました。GoogleのCEOであるサンダー・ピチャイはこの間違いを認め、「誤りを犯した」と述べました。
テスト機関であるSemaforは、FireflyがGeminiと同様の誤りを複製したことを発見しました。両ツールは同様の手法を使用して書かれたテキストから画像を作成しますが、異なるデータセットでトレーニングされています。AdobeのFireflyは特にトレーニングプロセスでストック画像やライセンス画像を利用しています。
AdobeとGoogleは異なる企業文化を持っていますが、画像生成のためのコアな技術における課題があることは共通しています。企業はアルゴリズムを導いたり形作ったりすることができますが、すべての不正確さや偏見を根絶するための万全の方法はありません。
よくある質問
1. Fireflyはどんな間違いを comittedったか？
Fireflyは、第二次世界大戦中にナチス・ドイツのために戦う黒人兵士や、1787年の建国の父親を黒人男性や女性に描写する画像を生成しました。古い白人男性、黒人男性、黒人女性、白人女性を含むコミックキャラクターの複数バリエーションを生み出しました。さらに、Geminiが行ったのと同様に、黒人ビキングの画像も作成しました。
2. なぜこれらの間違いが起こるのか？
これらの間違いは、モデルのデザイナーが人種差別的なステレオタイプを維持しないように努めた結果生じています。医師や犯罪者など多様なグループの表現を確保することで、人種的ステレオタイプに挑戦しようとしています。ただし、これらの取り組みが歴史的な文脈に適用されると、これらの努力は現代の政治的なダイナミクスに基づいて歴史を書き換えようとする試みと見なされる可能性があります。
3. これらの課題はAdobeやGoogleに限定されていますか？
いいえ、これらの課題は特定の企業やモデルに限定されるものではありません。Adobeの例からもわかるように、ガイドラインを遵守することで知られる企業でも困難に直面することがあります。包括的なトレーニングデータを確保し、AIシステムの偏りに対処することは、業界全体で広く共通する課題です。
Adobeはこれらの問題を軽減するために重要な取り組みを行っています。同社は顧客の著作権侵害の懸念を避けるために、ストック画像、オープンライセンスのコンテンツ、パブリックドメインのコンテンツでアルゴリズムをトレーニングしました。
Adobeはこの特定の問題についてコメントしていませんが、AI画像制作を巡る論争はテック企業が正確で偏りのないAIツールを開発する際に直面する複雑さを浮き彫りにします。これらの課題は、AIの開発と実装において持続的な改善と倫理的考慮が必要であることを強調しています。
The source of the article is from the blog cheap-sound.com