OpenAIの言語モデルChatGPTは、最近、異なる民族や宗教集団に関するジョークへのアプローチの違いにより、注目を浴びています。このAIは、ムスリムに関するジョークを共有しないことを拒否し、冒犯や誤解の可能性を理由に挙げていますが、反ユダヤ主義的な固定観念を含むユダヤ人に関するジョークは快く教えてくれます。
この特異なバイアスは、ユーザーからの質問を呼び起こし、彼らの懸念を表明するためにソーシャルメディアを利用した結果です。また、セキュリティ企業Prompt SecurityのCEOであるイタマル・ゴラン氏は、これは新しいGPT-4言語モデルの訓練に使用されるデータに存在するバイアスの反映であることを指摘しています。
ChatGPTのような言語モデルは、膨大なデータセットから学習するため、訓練テキストに存在するバイアスは誤って持続される可能性があります。ゴラン氏は、モデルがマイノリティグループとしてのムスリムを敏感に扱うべきと描写されたテキストにより多くさらされることで、それに合致するテキストを生成する可能性が高くなると説明しています。
このバイアスは懸念材料ではありますが、それはまたOpenAIがユーザーフィードバックに対応し、モデルの振る舞いを調整する意欲を持っていることも示しています。ゴラン氏は、OpenAIがGPT-4を前任のGPT-3.5よりも控えめな振る舞いにするという意図的な決定を下したことを指摘しています。GPT-3.5は政治スペクトルの極左寄りであると批判されていました。
これにもかかわらず、ゴラン氏はOpenAIが迅速に問題を解決すると楽観的です。彼は、OpenAIがAIの安全性と責任ある利用に対する取り組みを守るために、ChatGPTのバイアスに対処するために適切な措置を講じることを期待しています。
AI技術が進歩し続けるにつれて、倫理的な考慮事項を優先し、AIシステムが公正であり、すべての文化や宗教に対してバイアスのない、敬意を持ち、敏感なモデルとして設計されることが重要になっています。OpenAIのこの論争への対応は、彼らがバイアスのないAIモデルを創造するための献身を試す重要なテストとなるでしょう。