Meta, la empresa matriz de Facebook, Instagram y Threads, está tomando medidas para identificar y etiquetar imágenes generadas por IA en sus plataformas. Esta acción forma parte de los esfuerzos de Meta para combatir el engaño y responsabilizar a aquellos que engañan intencionalmente a los demás. Actualmente, las imágenes fotorrealistas generadas por IA de Meta ya están etiquetadas como tal. Sin embargo, en una reciente publicación de blog, Nick Clegg, Presidente de Asuntos Globales de Meta, anunció que la compañía planea expandir la etiquetado a las imágenes generadas por IA creadas en servicios rivales.
Si bien las imágenes generadas por IA de Meta ya contienen metadatos y marcas de agua invisibles que indican su origen en IA, la compañía está desarrollando herramientas para detectar estos marcadores cuando son utilizados por otras organizaciones como Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock. Al identificar y etiquetar el contenido generado por IA, Meta busca abordar la difuminación de la línea entre el contenido humano y sintético, proporcionando a los usuarios transparencia sobre la tecnología detrás de las imágenes que encuentran.
En los próximos meses, Meta planea aplicar estas etiquetas en todos los idiomas. La compañía reconoce la importancia de este esfuerzo, especialmente durante las importantes elecciones globales que se llevarán a cabo el próximo año. Sin embargo, es importante tener en cuenta que actualmente, el etiquetado se limita a las imágenes y el contenido de audio y video generado por IA no incluye estos marcadores.
Además del etiquetado, Meta tiene la intención de colocar etiquetas más prominentes en imágenes, videos o audio digitalmente manipulados o alterados, que tengan un alto riesgo de engañar materialmente al público. Además, la compañía está explorando el desarrollo de tecnología que pueda detectar automáticamente el contenido generado por IA, incluso cuando se hayan eliminado o estén ausentes estos marcadores invisibles.
Clegg reconoció la naturaleza adversarial de este espacio y la necesidad de una innovación continua para mantenerse por delante de aquellos que buscan engañar con contenido generado por IA. Dado que los deepfakes de IA ya han aparecido durante el ciclo electoral presidencial de Estados Unidos y se han producido casos como la controversial alteración de imágenes en Australia, los esfuerzos de Meta para detectar y etiquetar el contenido generado por IA son vitales para contrarrestar las prácticas engañosas.
Al fomentar la transparencia y proporcionar a los usuarios información sobre la naturaleza del contenido que encuentran, Meta tiene como objetivo crear un entorno digital más seguro donde las personas puedan navegar e interactuar con los medios de manera responsable.
Preguntas frecuentes:
P: ¿Qué medidas está tomando Meta para combatir el engaño en sus plataformas?
R: Meta, la empresa matriz de Facebook, Instagram y Threads, está identificando y etiquetando imágenes generadas por IA en sus plataformas. Esto es para abordar el problema del contenido engañoso y responsabilizar a quienes engañan intencionalmente a los demás.
P: ¿Las imágenes generadas por IA de Meta ya están etiquetadas como tal?
R: Sí, las imágenes fotorrealistas generadas por IA de Meta ya están etiquetadas para indicar su origen en IA.
P: ¿Meta ampliará el etiquetado de imágenes generadas por IA a servicios rivales?
R: Sí, según Nick Clegg, Presidente de Asuntos Globales de Meta, la compañía planea ampliar el etiquetado a imágenes generadas por IA creadas en servicios rivales como Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock.
P: ¿Qué marcadores se utilizan para indicar el origen en IA en las imágenes generadas por IA de Meta?
R: Las imágenes generadas por IA de Meta contienen metadatos y marcas de agua invisibles que indican su origen en IA.
P: ¿Meta está desarrollando herramientas para detectar los marcadores de IA utilizados por otras organizaciones?
R: Sí, Meta está desarrollando herramientas para detectar los marcadores que indican el origen en IA cuando son utilizados por otras organizaciones.
P: ¿Por qué Meta está identificando y etiquetando contenido generado por IA?
R: Meta tiene como objetivo abordar la línea borrosa entre el contenido humano y sintético al proporcionar transparencia sobre la tecnología detrás de las imágenes que los usuarios encuentran.
P: ¿Meta aplicará estas etiquetas en todos los idiomas?
R: Sí, Meta planea aplicar las etiquetas en todos los idiomas en los próximos meses.
P: ¿El contenido de audio y video generado por IA incluye estas etiquetas?
R: No, actualmente el etiquetado se limita a las imágenes y no incluye el contenido de audio y video generado por IA.
P: Además del etiquetado, ¿qué otras medidas está tomando Meta?
R: Meta tiene la intención de colocar etiquetas más prominentes en imágenes, videos o audio manipulados o alterados digitalmente, que tengan un alto riesgo de engañar materialmente al público. La compañía también está explorando el desarrollo de tecnología para detectar contenido generado por IA incluso cuando los marcadores estén ausentes o se hayan eliminado.
P: ¿Por qué son importantes los esfuerzos de Meta para detectar y etiquetar contenido generado por IA?
R: Ya se han producido deepfakes de IA y casos de alteración de imágenes controvertidas, lo que destaca la necesidad de contrarrestar prácticas engañosas. Al detectar y etiquetar contenido generado por IA, Meta tiene como objetivo crear un entorno digital más seguro.
P: ¿Cómo planea Meta crear un entorno digital más seguro?
R: Meta tiene como objetivo fomentar la transparencia y proporcionar a los usuarios información sobre la naturaleza del contenido que encuentran, lo que permite a las personas navegar e interactuar con los medios de manera responsable.
Definiciones:
1. Imágenes generadas por IA: Imágenes creadas utilizando inteligencia artificial, donde el software de IA genera el contenido en lugar de un ser humano.
2. Metadatos: Información descriptiva sobre un archivo, que incluye detalles sobre su origen, creador y contenido.
3. Marcas de agua invisibles: Marcadores digitales incrustados en archivos de medios que se pueden utilizar para identificar su origen o rastrear el uso no autorizado.
Enlaces relacionados sugeridos:
– Meta: El sitio web oficial de Meta, la empresa matriz de Facebook, Instagram y Threads.
– Sala de prensa de Facebook: Proporciona noticias y actualizaciones oficiales de Facebook, una subsidiaria de Meta.
– Instagram Press: Ofrece comunicados de prensa oficiales y actualizaciones de Instagram, una subsidiaria de Meta.
The source of the article is from the blog aovotice.cz