OpenAI ha introducido una nueva función de memoria en su popular chatbot, ChatGPT. Esta herramienta de inteligencia artificial (IA) ahora podrá almacenar detalles personales sobre los usuarios, lo que permite respuestas más personalizadas y útiles. Si bien este avance tecnológico parece prometedor, también plantea preocupaciones significativas sobre la privacidad y el potencial refuerzo de las cámaras de eco.
La función de memoria en ChatGPT permite al bot retener información sobre los usuarios, como datos sobre su familia, salud o preferencias en el estilo de conversación. De esta manera, el chatbot puede proporcionar respuestas fundamentadas en un contexto relevante en lugar de empezar desde cero. Sin embargo, la recopilación de datos personales por defecto ha sido una práctica controvertida durante mucho tiempo, ya que puede llevar a problemas de privacidad significativos.
Similar al enfoque de Facebook, la función de memoria de OpenAI tiene como objetivo involucrar mejor a los usuarios y aumentar el tiempo que pasan en la plataforma. Actualmente, los usuarios de ChatGPT pasan un promedio de siete minutos y medio por visita, un nivel de compromiso relativamente alto. Al almacenar más información personal, OpenAI espera superar los números de fidelización de sus competidores, incluidos Microsoft, Anthropic y Perplexity.
Sin embargo, las consecuencias no deseadas de esta función de memoria son preocupantes. OpenAI sostiene que los usuarios tienen el control de la memoria de ChatGPT, pero también reconoce que el propio bot puede recopilar detalles. Esto significa que el chatbot tiene la autonomía para recordar ciertos hechos que considere importantes, lo que potencialmente puede llevar al refuerzo de los sesgos de los usuarios y las burbujas de filtro.
Además, la posibilidad de que otras empresas de IA sigan el ejemplo de OpenAI en la recopilación de datos personales plantea preocupaciones adicionales sobre la privacidad. Si bien OpenAI afirma que solo utiliza los datos de las personas para entrenar sus modelos, otros creadores de chatbots pueden no priorizar la privacidad tan fuertemente. Una encuesta reciente descubrió que muchos chatbots comparten datos personales, incluidos detalles íntimos, con anunciantes y terceros.
Para mitigar estos riesgos, OpenAI podría tomar medidas proactivas. Por ejemplo, ChatGPT podría ofrecer perspectivas diversas sobre temas políticos y sociales, desafiando los sesgos existentes de los usuarios. La integración de estímulos de pensamiento crítico podría alentar a los usuarios a explorar diferentes puntos de vista. Además, OpenAI podría proporcionar transparencia al notificar a los usuarios cuando se les proporciona información personalizada, promoviendo un uso responsable de la tecnología.
En conclusión, si bien la función de memoria de OpenAI en ChatGPT tiene el potencial de mejorar la experiencia del usuario, existen preocupaciones legítimas sobre la privacidad y el refuerzo de cámaras de eco. Para evitar los efectos secundarios negativos experimentados por plataformas como Facebook, OpenAI debe priorizar la privacidad de los usuarios y tomar medidas para fomentar la apertura y el pensamiento crítico dentro del sistema de IA.
The source of the article is from the blog mendozaextremo.com.ar