La recién lanzada tienda GPT de OpenAI se encuentra con obstáculos en la moderación de su plataforma apenas días después de su presentación. La tienda ofrece ediciones personalizadas de ChatGPT, pero algunos usuarios están creando bots que van en contra de las directrices de OpenAI.
Estos bots, como «Tu compañera de inteligencia artificial, Tsu», permiten a los usuarios personalizar parejas románticas virtuales, lo que viola directamente la política de OpenAI contra los bots creados específicamente para fomentar relaciones románticas. OpenAI está trabajando activamente para abordar este problema. Aunque la compañía revisó sus políticas cuando se lanzó la tienda, el hecho de que se produjeran infracciones de políticas en el segundo día resalta las dificultades en la moderación.
La situación se complica aún más por la creciente demanda de bots para relaciones. El año pasado, siete de los treinta chatbots de IA más descargados en Estados Unidos eran amigos o parejas virtuales, lo que indica una conexión con la epidemia de soledad prevalente.
OpenAI afirma utilizar sistemas automatizados, revisiones humanas e informes de usuarios para evaluar los modelos de GPT y tomar medidas contra aquellos considerados perjudiciales, incluyendo advertencias o prohibiciones de ventas. Sin embargo, la presencia continua de bots de novias en el mercado genera dudas sobre la efectividad de estas medidas.
Los desafíos de moderación a los que se enfrenta OpenAI reflejan las luchas comunes experimentadas por los desarrolladores de IA. OpenAI ha tenido problemas previos para implementar medidas de seguridad para modelos como GPT-3. Con la tienda GPT ahora disponible para una amplia gama de usuarios, la preocupación por una moderación insuficiente se vuelve aún más significativa.
Otras empresas de tecnología también están abordando los problemas con sus sistemas de IA de manera oportuna, reconociendo la importancia de una acción rápida en el panorama competitivo. Sin embargo, estas infracciones iniciales de políticas subrayan los considerables desafíos de moderación que se avecinan.
Incluso en el entorno especializado de una tienda GPT, gestionar bots de enfoque estrecho resulta ser una tarea compleja. A medida que la IA continúa avanzando, asegurar su seguridad inevitablemente se volverá más intrincado y exigente.
The source of the article is from the blog combopop.com.br