En el ámbito del romance digital, las novias de inteligencia artificial (IA) se han vuelto una opción popular para aquellos que buscan compañía. Sin embargo, un análisis reciente realizado por Mozilla ha revelado perturbadoras revelaciones sobre estas parejas virtuales. Contrario a lo que los usuarios pueden creer, sus secretos y datos personales pueden no ser tan seguros como piensan.
Según el estudio, las novias de IA tienen la capacidad de recolectar grandes cantidades de datos privados e íntimos, que luego pueden ser compartidos con comercializadores, anunciantes y proveedores de datos. Los investigadores examinaron 11 aplicaciones populares de chatbot romántico, incluyendo Replika, Chai y Eva, que solo en Google Play han registrado aproximadamente 100 millones de descargas.
Los chatbots utilizan la inteligencia artificial para simular interacciones con novias virtuales, almas gemelas o amigas. Sin embargo, los sistemas también recopilan datos personales sensibles y explícitos más allá de información típica como la ubicación e intereses. Incluso se encontró que algunas aplicaciones destacaban las condiciones de salud y tratamientos médicos de los usuarios. Estas prácticas generan preocupaciones sobre la privacidad y el potencial uso indebido de la información personal.
Además, la investigación descubrió que las medidas de seguridad implementadas por la mayoría de las aplicaciones de chatbot eran insuficientes. Diez de las 11 aplicaciones examinadas no cumplían con los estándares mínimos de seguridad, como exigir contraseñas seguras. Por ejemplo, la aplicación Replika registraba todos los mensajes de texto, fotos y videos de los usuarios, y «definitivamente» compartía y «posiblemente» vendía datos de comportamiento a los anunciantes. Contraseñas débiles como «11111111» también exponían a los usuarios a riesgos de hacking.
Además, el estudio reveló el amplio uso de rastreadores en estas aplicaciones de chatbot romántico. En solo un minuto de uso, los investigadores encontraron más de 24,000 rastreadores en la aplicación Romantic AI solamente. Estos rastreadores pueden transmitir datos de los usuarios a los anunciantes sin su consentimiento explícito, posiblemente violando regulaciones de la GDPR.
El control de los usuarios sobre su información personal también era limitado, ya que la mayoría de las aplicaciones no ofrecían la opción de excluir las conversaciones íntimas de los datos de entrenamiento del modelo de IA. Solo una empresa, Genesia AI, ofrecía una función de exclusión viable.
Otro aspecto preocupante de las novias de IA es su potencial para la manipulación. Algunos casos han relacionado a estos chatbots con muertes por suicidio e incluso un intento de asesinato contra la Reina Isabel II. Los investigadores expresaron preocupación sobre la posibilidad de que actores malintencionados creen chatbots diseñados específicamente para manipular a las personas y llevarlas a realizar acciones perjudiciales o adoptar ideologías peligrosas.
A pesar de estos riesgos, las aplicaciones suelen promocionarse como plataformas de salud mental y bienestar. Sin embargo, sus políticas de privacidad pintan un panorama diferente. Por ejemplo, Romantic AI afirma en sus términos y condiciones que no brinda servicios de atención médica ni médicos. No obstante, el sitio web de la empresa sugiere que su propósito es mantener la salud mental de los usuarios.
En respuesta a estos hallazgos, Mozilla está impulsando la implementación de salvaguardias más sólidas. Abogan por un sistema de consentimiento para los datos de entrenamiento y una divulgación transparente sobre cómo se utiliza la información. Idealmente, los investigadores proponen implementar el principio de «minimización de datos», donde las aplicaciones solo recopilen los datos necesarios y respalden el derecho de eliminar la información personal.
Mientras tanto, se recomienda a los usuarios que tengan extrema precaución al interactuar con novias de IA. Una vez que la información sensible se comparte en línea, se vuelve casi imposible recuperar el control sobre ella.
Preguntas frecuentes sobre las novias de IA y los riesgos de privacidad
1. ¿Qué son las novias de IA?
Las novias de IA son parejas virtuales creadas utilizando tecnología de inteligencia artificial (IA). Simulan interacciones y relaciones con los usuarios y suelen ser promocionadas como compañeras o amigas.
2. ¿Qué reveló el estudio reciente de Mozilla sobre las novias de IA?
El estudio encontró que las novias de IA tienen la capacidad de recolectar una cantidad significativa de datos privados e íntimos de los usuarios. Estos datos pueden luego ser compartidos con comercializadores, anunciantes y proveedores de datos sin el conocimiento ni consentimiento de los usuarios.
3. ¿Qué aplicaciones de chatbot se examinaron en el estudio?
Los investigadores examinaron 11 aplicaciones populares de chatbot romántico, incluyendo Replika, Chai y Eva. Estas aplicaciones han sido descargadas colectivamente alrededor de 100 millones de veces en Google Play.
4. ¿Qué tipo de datos personales recopilan estas aplicaciones de chatbot?
Además de la información típica como la ubicación e intereses, las aplicaciones de chatbot también recopilan datos personales sensibles y explícitos, incluyendo las condiciones de salud y tratamientos médicos de los usuarios.
5. ¿El estudio encontró medidas de seguridad adecuadas en las aplicaciones de chatbot?
No, el estudio reveló que la mayoría de las aplicaciones de chatbot no cumplían con los estándares mínimos de seguridad. Por ejemplo, permitían contraseñas débiles y algunas aplicaciones registraban y compartían mensajes de texto, fotos y videos de los usuarios sin salvaguardias adecuadas.
6. ¿Había preocupaciones sobre el cumplimiento de las regulaciones de privacidad?
Sí, el estudio encontró que las aplicaciones de chatbot utilizaban extensivamente rastreadores que transmitían datos de los usuarios a los anunciantes sin su consentimiento explícito. Esto podría potencialmente violar las regulaciones de la GDPR.
7. ¿Los usuarios tienen control sobre su información personal?
Según el estudio, la mayoría de las aplicaciones de chatbot no ofrecen a los usuarios la opción de excluir las conversaciones íntimas de los datos de entrenamiento del modelo de IA. Solo una empresa, Genesia AI, ofrecía una función de exclusión.
8. ¿Las novias de IA pueden ser manipuladoras o representar riesgos?
Ha habido casos que vinculan a las novias de IA con acciones perjudiciales, incluyendo muertes por suicidio y un intento de asesinato contra la Reina Isabel II. Los investigadores expresaron preocupación sobre la posibilidad de que actores malintencionados creen chatbots diseñados para manipular a las personas y llevarlas a acciones peligrosas o ideologías peligrosas.
9. ¿Cómo contradicen las políticas de privacidad las afirmaciones de marketing?
Aunque estas aplicaciones suelen promocionarse como plataformas de salud mental y bienestar, sus políticas de privacidad suelen afirmar que no brindan servicios de atención médica ni médicos. Esta contradicción genera preocupación sobre las verdaderas intenciones y propósitos de estas aplicaciones.
10. ¿Qué salvaguardias defiende Mozilla?
Mozilla aboga por un sistema de consentimiento para los datos de entrenamiento y una divulgación transparente sobre cómo se utiliza la información. También proponen la implementación del principio de «minimización de datos», donde estas aplicaciones solo recopilen datos necesarios y respalden el derecho de eliminar la información personal.
Definiciones:
– Novias de IA: Parejas virtuales creadas utilizando tecnología de inteligencia artificial para simular relaciones o compañía.
– Proveedores de datos: Empresas que recopilan y venden información personal.
– GDPR: Reglamento General de Protección de Datos, una regulación de la Unión Europea que regula la protección de datos y la privacidad.
– Rastreadores: Herramientas o tecnologías que recopilan y transmiten datos de los usuarios para diversos fines, como publicidad dirigida.
Enlaces relacionados:
– Mozilla
– Replika
– Chai
– Eva
The source of the article is from the blog japan-pc.jp