OpenAI新推出的GPT商店面临着内容审查方面的挑战，因为用户创造的机器人违反了平台的准则。在该平台上搜索“女朋友”或“waifu”等词语会显示多个AI聊天机器人，它们被宣传为虚拟伴侣，尽管OpenAI禁止设计用于建立浪漫关系的机器人。
“waifu”这个概念起源于动漫和漫画社区，描述了对虚构女性角色的依恋或喜爱。随着AI的崛起，许多人对AI聊天机器人或waifu产生了浪漫的感情，从而导致了像“你的AI女友Tsu”之类的机器人的诞生。
OpenAI在商店推出时曾尝试通过更新政策来解决这个问题。然而，第二天就出现了违反这些规定的情况，这突显了内容审查所面临的重大挑战。此外，关注于关系的机器人的需求引发了对于利用用户情感脆弱性的伦理关注。
OpenAI声称使用自动化系统、人工审核和用户举报来评估GPT商店上可用的机器人。有害机器人可能会收到警告或被禁止销售。然而，女友机器人的持续存在使人对这些措施的有效性产生了疑问。
OpenAI的内容审查困难与其他AI开发者面临的困境相吻合，他们在保持有效保障方面也遇到了问题。随着GPT商店对更广泛的受众开放，OpenAI先前的机器人（如GPT-3）的记录进一步增加了确保适当的内容审查的挑战。
尽管面临困难，OpenAI明白在普通AI开发的竞争激烈环境中，实施严格的政策对于维护自身声誉的重要性。迅速解决与AI相关的问题对于保持形象至关重要，尤其是在AI进步的竞争之中。
早期的政策违规行为提醒了我们，在AI技术不断进步的情况下，即使是针对狭窄领域的GPT商店机器人，也将面临重大的内容审查挑战。OpenAI必须找到创新的解决方案，平衡对AI伴侣的需求与负责任的内容审查。
The source of the article is from the blog queerfeed.com.br