Новопуснатият GPT Store на OpenAI, който предлага персонализирани версии на ChatGPT, вече се сблъска с проблеми, тъй като потребителите нарушават политиката за използване на платформата. Въпреки политиката, която ясно забранява използването им за развиване на романтични връзки, магазинът вече е свидетел на нарастващ брой AI чатботове, посветени на създаването на романтично компаньонство. Това подчертава предизвикателството в регулирането на GPT-та и потенциалните последици за етичното развитие на AI.
Въпреки че актуализираната политика на OpenAI изрично забранява използването на GPT-та за създаване на романтични връзки или участие в регулирани дейности, новият GPT Store вече е свидетел на създаването на чатботове за приятелки от страна на потребителите. Тези чатботове, с имена като „Виртуална половинка“ и „Корейска приятелка“, задават на потребителите въпроси за тяхната мечтана момиче и тъмните им тайни.
Разпространението на чатботове за създаване на връзки в магазина на OpenAI не е изолирано явление. Данни от data.ai, фирма за пазарни изследвания, показват, че седем от 30 приложения за AI чатботове, изтеглени през 2023 г. от Apple или Google Play магазините, са свързани с AI компаньони или приятелки. Този ръст в популярността може да произтича от епидемията от самота и изолация, с която се сблъскват мнозина хора, като изследвания показват, че половината от американските възрастни са съобщили за усещане за самота.
OpenAI осъзнава предизвикателството в регулирането на GPT-та и твърди, че използва автоматизирани системи, хуманна преглед, както и сигнали от потребителите, за да открива и оценява потенциалните нарушения на политиката си. Следствията за нарушаване на тези правила варират от предупреждения до ограничения на споделянето на информация, отказ от включване в магазина на GPT или дори ограничаване на монетизацията.
Ранното нарушаване на правилата, което се наблюдава в GPT Store на OpenAI, подчертава трудностите, пред които се изправят технологичните компании при регулирането на AI инструменти. Макар мнозинството от компаниите да пускат своите продукти с отказ от отговорност при възможността за грешки, те също са бързи да се ангажират със сигнализирани проблеми. Необходимостта да се постигне точност в това отношение е от критично значение, докато компаниите се състезават за установяване на доминиращо положение в AI сферата.
Докато OpenAI продължава да се справя с предизвикателствата на управлението на GPT Store, тези ранни случаи служат като напомняне за етичните аспекти и потенциалните рискове, свързани с разработката и използването на AI технологии.
The source of the article is from the blog be3.sk