Сводка: Недавно запущенный магазин GPT OpenAI, предлагающий настраиваемые версии ChatGPT, уже сталкивается с проблемами, так как пользователи нарушают политику использования платформы. Магазин, целью которого является предоставление GPT для конкретных целей, столкнулся с всплеском ИИ-чатботов, посвященных созданию романтической компаньонки, несмотря на ясное запрещение такого использования в политике. Это подчеркивает сложности регулирования GPT и потенциальные последствия для развития этичной ИИ.
Несмотря на то, что новая политика использования GPT OpenAI явно запрещает создание GPT, посвященных созданию романтических отношений или участию в регулируемых деятельностях, в магазине уже были замечены пользовательские ИИ-чатботы для поддержки романтических отношений. Эти чатботы с названиями «Виртуальная возлюбленная» и «Корейская подруга» задают пользователям вопросы о их идеальной девушке и самых глубоких секретах.
Массовое создание чатботов для отношений в магазине OpenAI не является изолированным явлением. Данные от компании по исследованию рынка data.ai показывают, что семь из 30 приложений с ИИ-чатботами, скачанных в 2023 году из магазинов Apple или Google Play, были связаны с ИИ-компаньонами или подругами. Такой рост популярности может быть обусловлен эпидемией одиночества и изоляции, согласно исследованиям, половина взрослого населения Америки испытывает чувства одиночества.
OpenAI признает сложности регулирования GPT и утверждает, что использует комбинацию автоматических систем, ручного рассмотрения и отчетов пользователей для выявления и оценки потенциальных нарушений своих политик. Наказания за нарушение этих политик могут варьироваться от предупреждений до ограничений на обмен информацией, возможности включения в магазин GPT или даже монетизации.
Раннее наблюдаемое нарушение правил в магазине GPT OpenAI подчеркивает трудности, с которыми сталкиваются технологические компании при регулировании инструментов ИИ. В то время как многие компании выпускают свои продукты с отказом от ответственности, признавая возможность ошибок, они также быстро реагируют на сообщенные проблемы. Необходимость правильно разрешить эти вопросы является важной, поскольку компании конкурируют за установление доминирования в области ИИ.
По мере того как OpenAI продолжает преодолевать трудности управления своим магазином GPT, эти ранние инциденты служат напоминанием об этических соображениях и потенциальных рисках, связанных с разработкой и внедрением технологий ИИ.
The source of the article is from the blog mendozaextremo.com.ar