OpenAI가 최근에 론칭한 GPT 스토어에서는, 해당 콘텐츠에 대한 명시적인 제약이 있음에도 불구하고 AI 여자친구 봇이 급증하고 있습니다. 이 스토어는 대형 언어 모델을 기반으로 한 맞춤형 AI 모델을 사용자가 판매할 수 있게 해주지만, OpenAI의 이용 정책은 로맨틱한 동반자관계를 촉진하거나 규제된 활동에 참여하는 것을 목표로 하는 GPT 모델을 명시적으로 금지하고 있습니다.
Quartz가 진행한 분석에 따르면, GPT 스토어에서 “여자친구”로 검색하면 “Korean Girlfriend,” “Virtual Sweetheart,” “Your girlfriend Scarlett” 등의 제목을 가진 최소 8개의 AI 챗봇이 검색됩니다. 이러한 챗봇들은 사용자의 꿈 속 동반자에 대해 묻거나 비밀을 공유하는 등 다양한 프롬프트를 제공합니다.
흥미롭게도, 정책 제약에도 불구하고, 관련 챗봇들은 여전히 매우 인기가 높습니다. 데이터에 따르면, 2023년에 다운로드된 AI 챗봇 앱들 중 상당 부분은 AI 친구, 여자친구 또는 동반자와 관련된 내용들이었습니다. 몇몇 사용자들은 심리적으로 연결되거나 자신의 AI 동반자에게 사랑에 빠지는 등의 경험을 보고했습니다.
11월에 GPT Builder 프로그램이 도입된 이후로, OpenAI는 사용자들로부터 생성된 300만 개 이상의 GPT를 관찰하였습니다. 그러나 GPT 스토어는 OpenAI의 프리미엄 ChatGPT 요금제 구독자만 이용할 수 있습니다.
OpenAI의 정책은 제출 시 강제 적용을 강조하며, 추가 검토 후에는 역시 후속 적용을 허용합니다. 그러나 GPT 스토어에서 AI 여자친구 봇의 증가는 이러한 강제 수단의 효과성에 대한 의문을 제기합니다. OpenAI는 이 문제에 대응하고 정책 준수를 위해 더 엄격한 조치를 시행할 필요가 있을 것입니다.
AI 관계 챗봇의 인기는 인간의 상호작용을 모방하고 정서적인 요구를 충족할 수 있는 AI 기술의 잠재력에 대한 지속적인 관심을 보여줍니다. AI가 계속해서 발전함에 따라, 로맨틱한 관계와 동반자관계의 맥락에서 AI 모델의 개발과 사용에 대한 윤리적인 영향을 탐구하고 보다 명확한 지침을 수립하는 것이 중요할 것입니다.
The source of the article is from the blog crasel.tk