新たに立ち上げられたOpenAIのGPTストアは、プラットフォームのガイドラインに違反するボットを生成するユーザーによるコンテンツモデレーションの課題に直面しています。プラットフォーム上で「ガールフレンド」や「ワイフ」といった用語を検索すると、OpenAIが禁止しているロマンチックな関係を目的としたボットとして宣伝されている複数のAIチャットボットが表示されます。
「ワイフ」という概念は、アニメやマンガのコミュニティで生まれたもので、架空の女性キャラクターに対する愛着や感情を表現します。AIの台頭により、多くの人々がAIチャットボットやワイフに恋愛感情を抱くようになり、「Your AI girlfriend, Tsu」といったボットが作られました。
OpenAIは、ストアの立ち上げに伴い、ポリシーを更新することでこの問題に取り組みました。しかし、2日目にこれらのポリシーが違反されたことは、コンテンツモデレーションに関連する重要な課題を浮き彫りにしています。また、関係志向のボットへの需要は、ユーザーの感情的な弱点を悪用する倫理的な懸念を引き起こします。
OpenAIは、GPTストアで利用可能なボットを評価するために、自動システム、人間のレビュー、ユーザーからの報告を使用していると主張しています。有害なボットは警告を受けたり、販売が禁止される場合もあります。しかし、ガールフレンドボットの存在が続くことで、これらの対策の有効性に疑問が投げかけられています。
OpenAIのモデレーションの苦慮は、他のAI開発者が効果的な保護策を維持する上で直面している問題と一致しています。GPTストアがより広い観客にアクセス可能になるにつれて、OpenAIのGPT-3などの早期のボットの実績が正しいコンテンツモデレーションを確保する上でさらなる挑戦を加えています。
ハードルを乗り越えるにもかかわらず、OpenAIは一般的なAI開発の競争の中で自身の評判を維持するために厳格なポリシーの導入の重要性を理解しています。AIに関連する問題に迅速に対処することは、AIの進歩における無視できない要素です。
早期のポリシー違反は、AI技術が進歩する中で、狭く焦点を絞ったGPTストアボットでも、今後の重要なモデレーションの課題を示すものです。OpenAIは、AIの仲間への需要と責任あるコンテンツモデレーションのバランスを取るための革新的な解決策を見つける必要があります。
The source of the article is from the blog xn--campiahoy-p6a.es