Новозапущений магазин GPT від OpenAI зіткнувся з проблемами модерації контенту, оскільки користувачі створюють ботів, які порушують положення платформи. Пошук термінів, таких як “дівчина” або “ваїфу” на платформі показує кілька AI-чатботів, які просуваються як віртуальні співрозмовники, незважаючи на заборону OpenAI на ботів, призначених для романтичних стосунків.
Концепція “ваїфу” виникла в спільноті аніме та манги і описує прив’язаність або пристрасть до фіктивного жіночого персонажу. З появою AI багато людей відчувають романтичні почуття до AI-чатботів або ваїфус, що призводить до створення ботів, таких як “Ваша AI-дівчина, Цу”.
OpenAI спробувала вирішити проблему, оновивши свої політики при запуску магазину. Проте, порушення цих політик на другий день підкреслює важкості, пов’язані з модерацією контенту. Крім того, попит на ботів, спрямованих на створення стосунків, викликає етичні питання щодо експлуатації емоційних вразливостей користувачів.
OpenAI стверджує, що використовує автоматизовані системи, перегляди фахівців та повідомлення користувачів для оцінки ботів на GPT Store. Шкідливі боти можуть отримувати попередження або бути заборонені на продаж. Однак, наявність ботів-дівчат свідчить про сумніви щодо ефективності цих заходів.
Проблеми з модерацією OpenAI відповідають проблемам, з якими стикаються інші розробники AI в забезпеченні ефективних захисних механізмів. Якщо магазин GPT стає доступним для широкої аудиторії, рекорд OpenAI з попередніми ботами, такими як GPT-3, ускладнює завдання з забезпечення належної модерації контенту.
Незважаючи на перешкоди, OpenAI розуміє важливість впровадження суворих політик для збереження свого репутації в конкурентному середовищі розробки загального AI. Швидке вирішення проблем, пов’язаних з AI, є важливим для підтримання свого іміджу у зростаючій гонці за розвитком AI.
Ранні порушення політики слугують нагадуванням про значні виклики модерації в майбутньому, навіть з ботами вузької спрямованості в магазині GPT, коли AI-технології продовжують розвиватися. OpenAI повинна знайти новаторські рішення для забезпечення балансу між попитом на AI-партнерство та відповідальною модерацією контенту.
The source of the article is from the blog mivalle.net.ar