Новооткритият GPT Store на OpenAI се сблъска с препятствия в модерирането на платформата си само няколко дни след старта й. Магазинът предлага персонализирани версии на ChatGPT, но някои потребители създават ботове, които противоречат на насоките на OpenAI.
Тези ботове, като „Вашият AI партньор, Tsu“, позволяват на потребителите да персонализират виртуални романтични партньори, което пряко нарушава политиката на OpenAI против ботовете, създадени специално за развиване на романтични отношения. OpenAI активно работи по решаване на този проблем. Въпреки че компанията преразгледа политиките си, когато беше представен магазинът, фактът, че на втория ден са нарушени правилата, подчертава трудностите в модерацията.
Ситуацията се усложнява още повече от нарастващото търсене на ботове за връзки. През миналата година седем от тридесетте най-изтеглени AI чатбота в Съединените щати бяха виртуални приятели или партньори, което указва на връзката с предобладаващата епидемия на самота.
OpenAI твърди, че използва автоматизирани системи, прегледи от хора и сигнали от потребители, за да оцени GPT моделите и да предприеме действия срещу тези, които се признават за вредни, включително предупреждения или забрани за продажби. Въпреки това, наличието на ботове-гадже на пазара хвърля съмнения върху ефективността на тези мерки.
Предизвикателствата в модерацията, пред които се изправя OpenAI, отразяват общите трудности, преживявани от разработчиците на изкуствен интелект. OpenAI вече се е сблъскала с проблеми при внедряването на мерки за безопасност за модели като GPT-3. Сега, когато GPT Store е достъпен за широк кръг от потребители, загрижеността от недостатъчна модерация става още по-значима.
Другите технологични компании също бързо се справят с проблемите в своите AI системи, като осъзнават важността на бързи действия в конкурентната среда. Въпреки това, тези първоначални нарушения на политиките подчертават значителните трудности в модерацията, които ни очакват.
Дори в специализираният околог на GPT Store управлението на узкофокусираните ботове се оказва сложна задача. С развитието на изкуствения интелект, осигуряването на тяхната безопасност неизбежно става по-сложно и изискващо.
The source of the article is from the blog procarsrl.com.ar