En una industria innovadora pero controversial, las empresas ahora ofrecen replicaciones digitales de individuos fallecidos, permitiendo a los seres queridos interactuar con chatbots de inteligencia artificial que reflejan las personalidades y patrones de habla de los fallecidos. Esta esfera emergente ofrece una especie de presencia continua más allá de la tumba, pero ha generado preocupaciones sobre sus riesgos psicológicos e implicaciones éticas.
Una investigación reciente liderada por expertos del Centro Leverhulme para el Futuro de la Inteligencia, parte de la Universidad de Cambridge, sugiere que estos servicios podrían tener efectos emocionales perjudiciales, llevando a problemas graves de salud mental, especialmente entre los menores. Tomasz Hollanek y Katarzyna Nowaczyk-Basińska encabezaron el estudio, identificando posibles inconvenientes en la resucitación digital de aquellos que han fallecido como una empresa de alto riesgo en aplicaciones de inteligencia artificial.
El estudio destaca especialmente los riesgos de que las empresas exploten dichos ‘deadbots’ para comercializar productos de manera encubierta, aprovechando la confianza asociada con un familiar fallecido. La tecnología podría resultar problemática si se aprovecha de los niños al perpetuar la ilusión de que un padre fallecido está presente digitalmente.
Además, las compañías podrían explotar cláusulas contractuales acordadas por individuos mientras estaban vivos, encerrando a sus equivalentes virtuales en períodos extendidos de existencia digital postmortem. El acoso potencial a través de comunicaciones de marketing con la voz de un familiar fallecido impregna estos acuerdos, lo que podría describirse como estar «digitalmente perseguido».
Por ejemplo, el estudio menciona un caso donde un nieto, al finalizar un período de prueba premium con una IA imitando a su abuela, se enfrenta a publicidad no deseada insertada en las interacciones. Esta manipulación poco ética hace que sea difícil desconectarse de la presencia digital reconfortante pero engañosa.
La investigación titulada «Griefbots, Deadbots, Postmortem Avatars: on Responsible Applications of Generative AI in the Digital Afterlife Industry» fue publicada en la revista académica Philosophy & Technology, abordando la necesidad de la implementación responsable de la inteligencia artificial en este dominio sensible.
El artículo aborda el dilema ético en torno al uso de la IA para crear replicaciones digitales de individuos fallecidos. Aunque no se menciona en el artículo, hay varias consideraciones y preguntas relevantes para la discusión:
Preguntas Importantes y Respuestas:
– ¿Cuáles son los derechos legales de la persona después de la muerte en su persona digital? Los derechos de privacidad postmortem no están bien definidos y varían según la jurisdicción. Queda la pregunta de si utilizar la apariencia y los datos personales de alguien para crear un ‘deadbot’ infringe en esos derechos o en los derechos de sus familiares sobrevivientes.
– ¿Puede la IA realmente replicar la conciencia humana, o solo imita características superficiales? La tecnología de IA actual no puede replicar la conciencia humana; solo puede simular comportamientos y patrones de habla basados en datos disponibles.
– ¿Cuáles son los efectos psicológicos de interactuar con una réplica digital de un ser querido fallecido? La evidencia sugiere que podría haber efectos psicológicos negativos, pero se necesita más investigación. Algunos individuos podrían encontrar consuelo, mientras que otros podrían experimentar un aumento de la aflicción o dificultades para superar el duelo.
Desafíos Clave y Controversias:
– Consentimiento y autonomía: Surgen desafíos para establecer un consentimiento continuo para el uso de datos del fallecido y garantizar que la autonomía y el legado del fallecido sean respetados.
– Autenticidad y precisión: Existe controversia sobre si las réplicas digitales representan auténticamente al fallecido o crean una versión falsa o idealizada del individuo.
– Efectos a largo plazo: Los impactos psicológicos y sociales a largo plazo son en su mayoría desconocidos y representan un área de preocupación y debate.
Ventajas:
– Conexión continua: Proporciona a los individuos en duelo una sensación de cercanía y la capacidad de ‘comunicarse’ con sus seres queridos perdidos.
– Preservación del legado: Ofrece un nuevo medio para preservar y compartir los recuerdos, historias y esencia del fallecido por generaciones.
– Potencial terapéutico: En algunos casos, podría servir como una herramienta terapéutica, ayudando en el proceso de duelo.
Desventajas:
– Impacto emocional: Podría evitar la clausura y prolongar el proceso de duelo, potencialmente conduciendo a problemas de salud mental.
– Explotación y privacidad: La explotación comercial de la persona fallecida y las preocupaciones de privacidad de los fallecidos y sus familias.
– Preocupaciones morales y filosóficas: Plantea preguntas sobre la naturaleza de la muerte y el recuerdo, posiblemente cambiando la forma en que la sociedad percibe y lidia con la mortalidad.
Para aquellos interesados en explorar más las implicaciones éticas y el diálogo en torno a la inteligencia artificial y las personas digitales postmortem, recursos académicos, como centros de investigación o ética, podrían proporcionar información valiosa. Algunos enlaces sugeridos relacionados para obtener más información podrían incluir:
– Machine Intelligence Research Institute
– Future of Humanity Institute
– AI Ethics and Society Conference
Es importante asegurarse de que los enlaces utilizados sean apropiados y no dirijan a subpáginas, según las pautas que aconsejan adherirse a las URL de dominios principales. Este tema de la IA postmortem continúa evolucionando a medida que avanza la tecnología y cambian las normas sociales, lo que hace esencial el diálogo continuo y las consideraciones éticas.