Obchod GPT společnosti OpenAI čelí překážkám v moderaci své platformy již jen několik dní po svém uvedení. Obchod nabízí personalizované verze ChatGPT, ale někteří uživatelé vytváří boty, které porušují směrnice OpenAI.
Tyto boty, jako například „Váš virtuální partner Tsu“, umožňují uživatelům přizpůsobovat si virtuální romantické partnery, což přímo porušuje zásady OpenAI proti vytváření botů zaměřených specificky na pěstování romantických vztahů. OpenAI aktivně pracuje na vyřešení tohoto problému. I když společnost po uvedení obchodu revidovala své směrnice, skutečnost, že došlo ke zneužívání již druhý den, poukazuje na obtíže v oblasti moderace.
Situaci dále komplikuje rostoucí poptávka po bots zaměřených na vztahy. Minulý rok bylo sedm z třiceti nejčastěji stažených AI chatbotů ve Spojených státech virtuálních přátel nebo partnerů, což naznačuje spojitost s rozšířenou epidemií osamělosti.
OpenAI tvrdí, že používá automatizované systémy, lidské recenze a ohlasy uživatelů k hodnocení GPT modelů a přijímá opatření proti těm, které jsou považovány za škodlivé, včetně varování nebo zákazů prodeje. Přesto přítomnost těchto girlfriend botů na trhu vyvolává pochybnosti o účinnosti těchto opatření.
Výzvy v moderaci, kterým čelí OpenAI, odrážejí běžné problémy, se kterými se potýkají vývojáři AI. OpenAI se již dříve setkala s problémy při zavádění bezpečnostních opatření pro modely jako GPT-3. S nyní dostupným obchodem GPT pro širokou veřejnost se obavy z nedostatečné moderace stávají ještě významnějšími.
Další technologické společnosti také promptně řeší problémy se svými AI systémy a uznávají důležitost rychlého jednání v konkurenčním prostředí. Avšak tyto počáteční porušení směrnic poukazují na značné výzvy moderace, které nás čekají.
I v specializovaném prostředí obchodu GPT se správa úzkostí zaměřených botů ukazuje být složitým úkolem. Jak AI dále pokračuje v rozvoji, zajištění jejich bezpečnosti se nevyhnutelně stává složitějším a náročnějším úkolem.
The source of the article is from the blog mendozaextremo.com.ar