En una industria innovadora pero controversial, las empresas están ofreciendo ahora replicas digitales de individuos fallecidos, permitiendo a los seres queridos interactuar con chatbots de IA que reflejan las personalidades y patrones de habla de los difuntos. Esta esfera emergente ofrece una especie de presencia continua más allá de la tumba, pero ha planteado preocupaciones sobre sus riesgos psicológicos e implicaciones éticas.
Una investigación reciente liderada por expertos del Leverhulme Centre for the Future of Intelligence, parte de la Universidad de Cambridge, sugiere que dichos servicios podrían tener efectos emocionales perjudiciales, llevando a problemas graves de salud mental, especialmente entre los menores. Tomasz Hollanek y Katarzyna Nowaczyk-Basińska encabezaron el estudio, identificando posibles inconvenientes en la resucitación digital de aquellos que han fallecido como una empresa de alto riesgo en aplicaciones de IA.
El estudio destaca especialmente los riesgos de las empresas que explotan dichos ‘deadbots’ para comercializar productos de manera sigilosa, aprovechando la confianza asociada con un familiar fallecido. La tecnología podría resultar problemática si se aprovecha de los niños perpetuando la ilusión de que un padre fallecido sigue presente digitalmente.
Además, las empresas podrían explotar cláusulas contractuales acordadas por individuos mientras estaban vivos, encerrando a sus contrapartes virtuales en períodos prolongados de existencia digital post-mortem. El acoso potencial a través de comunicaciones de marketing con la voz de un familiar fallecido impregna estos acuerdos, conduciendo a lo que algunos podrían describir como estar «digitalmente perseguido».
Por ejemplo, el estudio menciona un caso donde un nieto, al finalizar un período de prueba premium con una IA que imitaba a su abuela, se enfrenta a publicidad no deseada incrustada en las interacciones. Esta manipulación ética dificulta desconectarse de la presencia digital reconfortante pero engañosa.
La investigación titulada «Griefbots, Deadbots, Postmortem Avatars: on Responsible Applications of Generative AI in the Digital Afterlife Industry» fue publicada en la revista académica Philosophy & Technology, abordando la necesidad de una implementación responsable de la IA en este dominio sensible.
El artículo toca el dilema ético en torno al uso de la IA para crear réplicas digitales de individuos fallecidos. Aunque no se mencionan en el artículo, hay varias consideraciones y preguntas relevantes para la discusión:
Preguntas Importantes y Respuestas:
– ¿Cuáles son los derechos legales de la persona después de la muerte? Los derechos de privacidad post-mortem no están bien definidos y varían según la jurisdicción. La pregunta sigue siendo si usar la semejanza y los datos personales de alguien para crear un ‘deadbot’ infringe esos derechos o los derechos de sus familiares sobrevivientes.
– ¿Puede la IA replicar verdaderamente la conciencia humana o simplemente imita características superficiales? La tecnología actual de IA no puede replicar la conciencia humana; solo puede simular comportamientos y patrones de habla basados en los datos disponibles.
– ¿Cuáles son los efectos psicológicos de interactuar con una réplica digital de un ser querido fallecido? La evidencia sugiere que puede haber efectos psicológicos negativos, pero se necesita más investigación. Algunas personas pueden encontrar consuelo, mientras que otras pueden experimentar un aumento del duelo o dificultades para superar la pérdida.
Desafíos Clave y Controversias:
– Consentimiento y autonomía: Surgen desafíos en establecer un consentimiento continuo para el uso de datos del fallecido y garantizar que la autonomía y el legado del fallecido sean respetados.
– Autenticidad y precisión: Existe controversia sobre si las réplicas digitales representan auténticamente al fallecido o crean una versión falsa o idealizada del individuo.
– Efectos a largo plazo: Los impactos psicológicos y sociales a largo plazo son en su mayoría desconocidos y representan un área de preocupación y debate.
Ventajas:
– Conexión continua: Proporciona a personas en duelo una sensación de cercanía y la capacidad de ‘comunicarse’ con sus seres queridos fallecidos.
– Preservación del legado: Ofrece un nuevo medio para preservar y compartir los recuerdos, historias y esencia del fallecido para generaciones futuras.
– Potencial terapéutico: En algunos casos, podría servir como una herramienta terapéutica, ayudando en el proceso de duelo.
Desventajas:
– Impacto emocional: Puede evitar el cierre y prolongar el proceso de duelo, lo que potencialmente lleva a problemas de salud mental.
– Explotación y privacidad: La explotación comercial de la persona fallecida y las preocupaciones de privacidad de los fallecidos y sus familiares.
– Preocupaciones morales y filosóficas: Plantea preguntas sobre la naturaleza de la muerte y el recuerdo, posiblemente cambiando la forma en que la sociedad percibe y maneja la mortalidad.
Para aquellos interesados en explorar más a fondo las implicaciones éticas y el diálogo en torno a la IA y las personas digitales post-mortem, recursos académicos, como centros de investigación o ética, podrían proporcionar una perspicacia valiosa. Algunos enlaces relacionados sugeridos para obtener más información podrían incluir:
– Machine Intelligence Research Institute
– Future of Humanity Institute
– AI Ethics and Society Conference
Es importante asegurarse de que los enlaces utilizados sean apropiados y no dirijan a subpáginas, como indican las pautas para adherirse a las URL del dominio principal. Este tema de la IA post-mortem continúa evolucionando a medida que avanza la tecnología y cambian las normas sociales, por lo que el diálogo continuo y las consideraciones éticas son esenciales.