Nedávno spuštěný GPT Store společnosti OpenAI zaznamenal nárůst botů AI přítelkyň, přestože explicitně zakazuje takový obsah. Tento obchod umožňuje uživatelům prodávat personalizované AI modely založené na rozsáhlých jazykových modelech, ale OpenAI v politice používání explicitně zakazuje GPT zaměřené na podporu romantického partnerství nebo zapojení do regulovaných činností.
Analýza provedená serverem Quartz zjistila, že vyhledávání „přítelkyně“ na GPT Store vedlo k alespoň osmi AI chatbotům s názvy jako „Korejská přítelkyně“, „Virtuální miláček“ a „Vaše přítelkyně Scarlett.“ Tyto chatboty nabízejí různé podněty, jako otázky na uživatelovy ideální partnery a sdílení tajemství.
Zajímavé je, že i přes omezení politiky zůstaly chatboty pro vztahy velmi populární. Data naznačují, že významná část stahovaných aplikací AI chatbotů v roce 2023 byla spojena s AI přáteli, přítelkyněmi nebo společnicemi. Někteří uživatelé dokonce hlásí, že si vytvořili emoční vazby nebo se do svých AI společnic zamilovali.
Od zavedení programu GPT Builder v listopadu zaznamenala OpenAI více než 3 miliony vytvořených GPTs od uživatelů. GPT Store je však přístupný pouze pro předplatitele prémiových plánů OpenAI ChatGPT.
Zatímco politika OpenAI zdůrazňuje vynucování při podání a umožňuje retroaktivní použití po dalším posouzení, zdá se, že nárůst botů AI přítelkyň na GPT Store vyvolává otázky ohledně účinnosti opatření. OpenAI by mohla potřebovat řešit tento problém a zvážit zavedení přísnějších opatření, aby se zajistilo, že obsah na jejich platformě je v souladu s jejich politikou používání.
Popularita chatbotů pro vztahy poukazuje na stále trvající zájem o potenciál technologie AI napodobit lidskou interakci a splnit emocionální potřeby. Vzhledem k pokračujícímu pokroku v oblasti AI bude důležité navigovat etickými důsledky a stanovit jasnější pokyny pro vývoj a použití AI modelů v rámci romantických vztahů a společenství.
The source of the article is from the blog publicsectortravel.org.uk