Meta Takes Action Against Manipulated Media with AI Labels

Meta toma medidas contra los medios manipulados con etiquetas de Inteligencia Artificial

Start

En un esfuerzo por combatir los medios manipulados y brindar transparencia a sus usuarios, Meta anunció que comenzará a etiquetar una amplia gama de contenido de video, audio e imágenes como «Hecho con IA» en sus plataformas, incluyendo Facebook e Instagram, a partir de mayo. La decisión sigue comentarios de la Junta de Supervisión independiente de Meta, que recomendó una actualización de la política existente.

El proceso de etiquetado puede ocurrir de varias formas. Los usuarios pueden optar por revelar que su contenido es generado por IA, mientras que los verificadores de datos pueden proporcionar asesoramiento a Meta sobre cómo etiquetar cierto contenido. Además, la propia tecnología de Meta puede detectar marcadores invisibles asociados al contenido generado por IA.

Meta reconoció el uso de herramientas de IA realistas en la creación de contenido, incluyendo audio y fotos, y destacó la rápida evolución de esta tecnología. La compañía hizo hincapié en la importancia de abordar la manipulación que involucra la representación de personas haciendo cosas que en realidad no hicieron.

El aumento de herramientas de video de IA ha generado preocupaciones sobre los deepfakes, especialmente en el contexto de las elecciones. Los expertos temen que actores malintencionados puedan utilizar herramientas de IA para crear deepfakes, lo cual podría confundir y engañar a los votantes. El reciente lanzamiento de la herramienta texto-a-video de OpenAI, Sora, ha suscitado más aprensión sobre las implicaciones de esta tecnología.

Durante una conversación con Bill Gates, el Primer Ministro Narendra Modi reconoció los desafíos planteados por la IA y subrayó la importancia de usar marcas de agua en el contenido generado por IA como un primer paso para crear conciencia y prevenir la desinformación. El Primer Ministro enfatizó la necesidad de reconocer las creaciones de IA por lo que son, sin restar valor a su potencial.

La seguridad de los datos sigue siendo una prioridad, y Modi resaltó las medidas tomadas por India para establecer un marco legal para proteger la información personal. También hizo hincapié en la importancia de aprovechar la tecnología para mejorar servicios y la calidad de vida de los ciudadanos.

Bill Gates también reconoció los desafíos y oportunidades que presenta la IA. Señaló que si bien la tecnología ha mostrado capacidades impresionantes, todavía hay áreas en las que falla. Aunque la IA puede sugerir ideas y aumentar la productividad, las decisiones finales aún requieren revisión humana.

Las reglas actuales sobre «medios manipulados» solo se aplican a videos que son alterados por IA para hacer que parezca que una persona dijo algo que no dijo. Meta ya ha comenzado a agregar etiquetas de «Imaginado con IA» a imágenes fotorrealistas creadas con la IA de Meta.

La decisión de Meta de etiquetar contenido generado por IA como «Hecho con IA» es un paso hacia abordar las preocupaciones en torno a los medios manipulados y promover la transparencia. Al implementar estas etiquetas, Meta tiene como objetivo capacitar a sus usuarios para hacer juicios informados sobre el contenido que consumen.

Privacy policy
Contact

Don't Miss

The Impact of Artificial Intelligence on Business Activities

El Impacto de la Inteligencia Artificial en las Actividades Comerciales

La Inteligencia Artificial (IA) está revolucionando diversas operaciones comerciales al
Revolutionizing the World of Tech: First International Virtual Reality Challenge Concludes Successfully

Revolucionando el Mundo de la Tecnología: Concluye Exitosamente el Primer Desafío Internacional de Realidad Virtual

Un nuevo desafío de realidad virtual concluyó recientemente con una