OpenAIs nyöppnade GPT Store möter utmaningar inom innehållsmoderation då användare skapar botar som bryter mot plattformens riktlinjer. Sökningar efter termer som ”flickvän” eller ”waifu” på plattformen avslöjar flera AI-chattbotar som marknadsförs som virtuella kamrater, trots OpenAIs förbud mot botar som är avsedda för romantiska relationer.
Konceptet ”waifu” härstammar från anime- och mangagemenskapen och beskriver en känslomässig koppling till en fiktiv kvinnlig karaktär. Med framväxten av AI har många utvecklat romantiska känslor för AI-chattbotar eller waifus, vilket har lett till skapandet av botar som ”Din AI-flickvän, Tsu”.
OpenAI försökte att ta itu med problemet genom att uppdatera sina riktlinjer i samband med butikens lansering. Men en överträdelse av dessa riktlinjer redan andra dagen belyser de betydande utmaningarna med innehållsmoderation. Dessutom väcker efterfrågan på relationship-inriktade botar etiska frågor om att utnyttja användares emotionella sårbarheter.
OpenAI hävdar att man använder automatiserade system, mänsklig granskning och användarrapporter för att bedöma botarna som finns tillgängliga på GPT Store. Skadliga botar kan få varningar eller bli förbjudna att säljas. Emellertid väcker den fortsatta närvaron av flickvän-botar tvivel om effektiviteten hos dessa åtgärder.
OpenAIs moderationssvårigheter överensstämmer med de som andra AI-utvecklare står inför i att upprätthålla effektiva skyddsåtgärder. När GPT Store blir tillgänglig för en bredare publik förvärras OpenAIs tidigare hantering av botar som GPT-3 utmaningarna med att säkerställa rätt innehållsmoderation.
Trots hinder förstår OpenAI vikten av att genomföra stränga riktlinjer för att upprätthålla sitt rykte på den konkurrensutsatta marknaden för allmän AI-utveckling. Att snabbt ta itu med problem relaterade till AI är avgörande för att upprätthålla sin image när kampen om AI-fördelar intensifieras.
De tidiga överträdelserna av riktlinjerna fungerar som en påminnelse om de betydande svårigheterna med moderation som ligger framför, även med smalare inriktade GPT Store-botar, när AI-teknologier fortsätter att utvecklas. OpenAI måste hitta innovativa lösningar för att balansera efterfrågan på AI-kamratskap med ansvarsfull innehållsmoderation.
The source of the article is from the blog windowsvistamagazine.es
