En un esfuerzo por combatir los medios manipulados y brindar transparencia a sus usuarios, Meta anunció que comenzará a etiquetar una amplia gama de contenido de video, audio e imágenes como «Hecho con IA» en sus plataformas, incluyendo Facebook e Instagram, a partir de mayo. La decisión sigue comentarios de la Junta de Supervisión independiente de Meta, que recomendó una actualización de la política existente.
El proceso de etiquetado puede ocurrir de varias formas. Los usuarios pueden optar por revelar que su contenido es generado por IA, mientras que los verificadores de datos pueden proporcionar asesoramiento a Meta sobre cómo etiquetar cierto contenido. Además, la propia tecnología de Meta puede detectar marcadores invisibles asociados al contenido generado por IA.
Meta reconoció el uso de herramientas de IA realistas en la creación de contenido, incluyendo audio y fotos, y destacó la rápida evolución de esta tecnología. La compañía hizo hincapié en la importancia de abordar la manipulación que involucra la representación de personas haciendo cosas que en realidad no hicieron.
El aumento de herramientas de video de IA ha generado preocupaciones sobre los deepfakes, especialmente en el contexto de las elecciones. Los expertos temen que actores malintencionados puedan utilizar herramientas de IA para crear deepfakes, lo cual podría confundir y engañar a los votantes. El reciente lanzamiento de la herramienta texto-a-video de OpenAI, Sora, ha suscitado más aprensión sobre las implicaciones de esta tecnología.
Durante una conversación con Bill Gates, el Primer Ministro Narendra Modi reconoció los desafíos planteados por la IA y subrayó la importancia de usar marcas de agua en el contenido generado por IA como un primer paso para crear conciencia y prevenir la desinformación. El Primer Ministro enfatizó la necesidad de reconocer las creaciones de IA por lo que son, sin restar valor a su potencial.
La seguridad de los datos sigue siendo una prioridad, y Modi resaltó las medidas tomadas por India para establecer un marco legal para proteger la información personal. También hizo hincapié en la importancia de aprovechar la tecnología para mejorar servicios y la calidad de vida de los ciudadanos.
Bill Gates también reconoció los desafíos y oportunidades que presenta la IA. Señaló que si bien la tecnología ha mostrado capacidades impresionantes, todavía hay áreas en las que falla. Aunque la IA puede sugerir ideas y aumentar la productividad, las decisiones finales aún requieren revisión humana.
Las reglas actuales sobre «medios manipulados» solo se aplican a videos que son alterados por IA para hacer que parezca que una persona dijo algo que no dijo. Meta ya ha comenzado a agregar etiquetas de «Imaginado con IA» a imágenes fotorrealistas creadas con la IA de Meta.
La decisión de Meta de etiquetar contenido generado por IA como «Hecho con IA» es un paso hacia abordar las preocupaciones en torno a los medios manipulados y promover la transparencia. Al implementar estas etiquetas, Meta tiene como objetivo capacitar a sus usuarios para hacer juicios informados sobre el contenido que consumen.
The source of the article is from the blog crasel.tk