La industria de las plataformas de redes sociales, en particular Facebook y su empresa matriz Meta, está experimentando cambios significativos en respuesta al desafío de los medios digitales manipulados. Con el avance de las tecnologías de inteligencia artificial (IA), la prevalencia de contenido engañoso se ha convertido en un tema apremiante.
Los nuevos cambios de política de Meta implican la introducción de etiquetas «Hecho con IA», que se mostrarán de manera prominente en videos, imágenes y audio generados por IA compartidos en sus plataformas. Esta estrategia de etiquetado tiene como objetivo proporcionar transparencia e informar a los espectadores sobre el proceso de creación de medios digitalmente alterados.
La implementación de estas nuevas políticas se llevará a cabo de manera gradual, con la expectativa de que los contenidos generados por IA se etiqueten a partir de mayo de 2024. Además, Meta planea dejar de eliminar contenido basado únicamente en su política de video manipulado en julio, permitiendo a los usuarios familiarizarse con el proceso de auto revelación antes de eliminar un subconjunto más pequeño de medios manipulados.
En cuanto a la identificación de imágenes generadas utilizando herramientas de IA generativa, Meta anunció previamente planes para incrustar marcadores invisibles dentro de los archivos. Sin embargo, aún no se ha proporcionado una fecha específica para el inicio de esta iniciativa.
Es importante tener en cuenta que estos cambios de política se aplican principalmente al contenido compartido en las plataformas de Facebook, Instagram y Threads, ya que diferentes reglas y regulaciones rigen los otros servicios de Meta, como WhatsApp y los auriculares de realidad virtual Quest.
La sincronización de estos cambios de política corresponde a las elecciones próximas, incluidas las muy esperadas elecciones presidenciales en los Estados Unidos en noviembre, así como las elecciones en países como India. Los investigadores de la industria tecnológica han expresado preocupaciones sobre el impacto potencial de las emergentes tecnologías de IA generativa en el panorama electoral. Se requieren pautas más claras de proveedores como Meta y el líder de la industria OpenAI debido a que las campañas políticas ya utilizan herramientas de IA.
Las reglas anteriores de Meta sobre medios manipulados fueron criticadas por su junta de supervisión por ser «incoherentes.» Esta crítica siguió a la revisión de un video manipulado que mostraba al presidente de los Estados Unidos, Joe Biden, falsamente representando un comportamiento inapropiado. A pesar de las inexactitudes, el video siguió accesible en la plataforma.
Actualmente, la política de Meta sobre medios manipulados aborda principalmente videos de AI modificados de manera engañosa o que manipulan el habla. Sin embargo, la junta de supervisión recomendó que estas pautas se ampliaran para incluir contenido no generado por IA, ya que puede ser igualmente engañoso. También enfatizaron la importancia de aplicar estos estándares a contenido solo de audio y videos que representan acciones fabricadas.
Preguntas Frecuentes
The source of the article is from the blog windowsvistamagazine.es