OpenAI新推出的GPT商店在刚推出几天后就遇到了内容审核方面的困难。该商店提供了ChatGPT的个性化版本，但一些用户正在创建违反OpenAI准则的机器人。
像“你的AI伴侣Tsu”等这些机器人允许用户定制虚拟浪漫伴侣，这直接违反了OpenAI对专门用于培养浪漫关系的机器人的政策。OpenAI正在积极解决这个问题。尽管公司在推出商店时已经修订了政策，但第二天就出现了政策违规行为，这突显了内容审核的困难。
情况进一步复杂化的是对情感机器人的需求不断增加。去年，美国30个最受欢迎的AI聊天机器人中，有7个是虚拟朋友或伴侣，显示出与普遍孤独流行病的关联。
OpenAI声称利用自动化系统、人工审核和用户举报来评估GPT模型，并对那些被认为有害的模型采取行动，包括警告或销售禁令。然而，市场上仍然存在女友机器人，这引发了对这些措施有效性的质疑。
OpenAI面临的内容审核挑战反映了AI开发者常遇到的普遍困境。OpenAI以前曾在实施GPT-3等模型的安全措施方面遇到问题。现在，GPT商店开放给广泛用户使用，审核不足的问题变得更为重要。
其他技术公司也在及时解决其AI系统的问题，认识到在竞争激烈的市场中迅速采取行动的重要性。然而，这些初期的违反政策事件突显了审核方面面临的巨大挑战。
即使在GPT商店这样专业化的环境中，管理面向狭窄领域的机器人也被证明是一项复杂的任务。随着AI的不断发展，确保其安全性必然变得更加复杂和需求更加严格。
The source of the article is from the blog agogs.sk