Investigadores de Cambridge abogan por estándares éticos en IA que simula a los fallecidos
Los investigadores de Cambridge han emitido una advertencia sobre los riesgos psicológicos asociados con la inteligencia artificial que permite a los usuarios interactuar con sus seres queridos fallecidos. Estas inteligencias artificiales, conocidas como ‘Deadbots’ o ‘Griefbots’, emulan los patrones de lenguaje y rasgos de personalidad de los fallecidos a través de sus huellas digitales. Algunas empresas ya ofrecen estos servicios como una nueva forma novedosa de presencia póstuma, lo que permite el surgimiento de una nueva industria de vida digital después de la muerte.
Expertos en ética de IA del Centro Leverhulme para el Futuro de la Inteligencia en Cambridge describen tres escenarios de diseño para las plataformas que podrían surgir en esta creciente ‘industria de vida digital después de la muerte’. Destacan las posibles consecuencias de un diseño imprudente en la IA, al cual describen como de alto riesgo.
Posibles usos incorrectos de los Chatbots de IA
El estudio, publicado en la revista Philosophy & Technology, resalta el potencial de las empresas para anunciarse de manera encubierta a través de productos a usuarios haciendo parecer que se trata de un ser querido fallecido, o para acosar a menores al insistir en que un padre fallecido todavía está ‘contigo’. Los chatbots que replican a los fallecidos pueden ser utilizados por empresas para enviar notificaciones no deseadas, recordatorios y actualizaciones, similar a un acecho digital.
Aquellos que encuentran consuelo inicial en los deadbots pueden sentirse abrumados eventualmente por las interacciones diarias que se convierten en una carga emocional. Además, pueden ser impotentes para detener una simulación de IA si su ser querido fallecido había firmado un contrato a largo plazo con un servicio digital póstumo.
La Dra. Katarzyna Nowaczyk-Basinska, una de las autoras del estudio del Centro Leverhulme, señaló el campo minado ético en este sector de la IA. Hizo hincapié en respetar la dignidad de los fallecidos, asegurando que no se vea comprometida por motivos financieros de servicios digitales póstumos. Al mismo tiempo, un simulacro de IA podría ser un regalo de despedida para seres queridos no preparados para procesar su dolor de esta manera. Los derechos tanto de los contribuyentes de datos como de los interactantes con servicios de IA post mortem deben ser protegidos.
Servicios actuales y escenarios hipotéticos
Las plataformas para recrear a los fallecidos utilizando IA ya están disponibles, como ‘Project December’, que comenzó utilizando modelos GPT antes de desarrollar sus sistemas, y aplicaciones como ‘HereAfter’. Servicios similares también están surgiendo en China. El documento presenta escenarios hipotéticos, como «Mannana»: un servicio de IA que crea un simulacro del abuelo sin el consentimiento del ‘donante de datos’ (el fallecido). Otro escenario involucra a una empresa ficticia «Paren’t» que crea un bot para ayudar a un niño pequeño con el proceso de duelo, pero la IA eventualmente comienza a producir respuestas desconcertantes.
Los investigadores recomiendan restricciones de edad para los Deadbots y solicitan una «transparencia significativa» para asegurar que los usuarios estén constantemente conscientes de que están interactuando con la IA. Esto podría ser similar a las advertencias actuales sobre contenido que podría provocar convulsiones, por ejemplo.
Los investigadores instan a los equipos de diseño a priorizar los protocolos de cancelación, permitiendo a los posibles usuarios concluir emocionalmente su relación con estos fantasmas digitales. Nowaczyk-Basinska añade, «Necesitamos comenzar a pensar ahora en cómo mitigamos los riesgos sociales y psicológicos de las vidas digitales después de la muerte, ya que la tecnología ya está aquí».
Principales preguntas éticas en torno a los servicios de vida digital después de la muerte
Una pregunta importante es: ¿Cuáles son los derechos de privacidad de los fallecidos y cómo pueden equilibrarse con los deseos de los vivos de mantener una conexión? Las preocupaciones de privacidad se extienden no solo a cómo los servicios de vida digital después de la muerte utilizan los datos, sino también a cómo podrían prevenir un mal uso por parte de terceros.
Otra pregunta se refiere al impacto psicológico: ¿Cómo afectan estos servicios al proceso de duelo? Algunos profesionales de la salud mental argumentan que estas tecnologías podrían interrumpir el proceso natural de duelo, potencialmente conduciendo a un duelo prolongado o a trastornos complicados de duelo.
Desafíos y controversias clave
Un desafío importante es la supervisión regulatoria. En la actualidad, hay una falta de marcos legales claros que regulen los servicios de vida digital después de la muerte. Esto genera incertidumbre sobre el uso ético de la información digital de alguien y cuánto tiempo esta información debería ser almacenada y utilizada después de su fallecimiento.
El consentimiento es otra controversia. ¿Cómo pueden los fallecidos consentir al uso de su persona digital y hasta qué punto puede considerarse válido el consentimiento premortem después de la muerte?
Ventajas y desventajas de los servicios de vida digital después de la muerte
Ventajas:
– Brinda consuelo a los afligidos al permitirles mantenerse en contacto con los fallecidos.
– Sirve como un memorial digital, preservando la memoria y el legado de los individuos.
– Puede ser una herramienta para la educación y el recuerdo para las generaciones futuras, aprendiendo sobre los ancestros a través de experiencias interactivas.
Desventajas:
– Puede prolongar el proceso de duelo y dificultar el proceso de sanación de los afligidos.
– Riesgos de violaciones de privacidad y mal uso de datos personales después de la muerte.
– Posible explotación comercial donde la presencia digital se utiliza para comercializar productos.
– Preocupaciones éticas sobre la representación y precisión de la personalidad simulada por la IA.
Enlaces relevantes
Para aquellos interesados en explorar las implicaciones éticas de la tecnología y la IA en mayor profundidad, pueden visitar los sitios web de organizaciones dedicadas a estos temas:
– Future of Life Institute
– Machine Intelligence Research Institute
– Electronic Frontier Foundation
– American Civil Liberties Union
Cabe señalar que estos enlaces dirigen a los dominios principales de organizaciones que abordan problemas más amplios relacionados con la tecnología y la ética, algunos de los cuales pueden tocar temas de servicios de vida digital después de la muerte y ética en la IA.