Meta, la empresa matriz de Facebook e Instagram, ha dado a conocer recientemente cambios significativos en sus políticas con respecto a los contenidos manipulados y alterados digitalmente. Ante las próximas elecciones que pondrán a prueba su capacidad para regular el contenido engañoso generado por inteligencia artificial (IA), el gigante de las redes sociales está tomando medidas para abordar el problema.
A partir de mayo, Meta introducirá etiquetas «Creado con IA» para videos, imágenes y audio generados por IA compartidos en Facebook e Instagram. Esta medida amplía su política anterior, que se centraba solo en una gama limitada de videos manipulados. La vicepresidenta de políticas de contenido en Meta, Monika Bickert, declaró en una publicación de blog que la compañía también implementará etiquetas separadas y más prominentes para los contenidos digitalmente alterados que representen un «alto riesgo de engañar materialmente al público sobre un asunto importante». Estas etiquetas se aplicarán independientemente de si se utilizó IA en su creación. Las etiquetas «de alto riesgo» más prominentes se implementarán de inmediato, según un portavoz de Meta.
Este nuevo enfoque marca un cambio en la estrategia de Meta con respecto al contenido manipulado. En lugar de eliminar solo algunos mensajes selectos, la empresa tiene como objetivo mantener visible el contenido mientras brinda a los espectadores información sobre cómo se produjo. Anteriormente, Meta había anunciado un plan para identificar imágenes creadas con herramientas de IA generativa de otras empresas mediante el uso de marcadores invisibles dentro de los archivos, aunque no se reveló la fecha de inicio en el momento del anuncio.
Es importante tener en cuenta que estas medidas de etiquetado se aplicarán al contenido publicado en Facebook, Instagram y Threads. Otros servicios, como WhatsApp y los auriculares de realidad virtual Quest, siguen reglas diferentes.
Estos cambios en las políticas llegan unos meses antes de las elecciones presidenciales en los Estados Unidos en noviembre, que los investigadores de la industria tecnológica advierten que podrían ver un aumento en la utilización de tecnologías de IA generativa. Las campañas políticas, especialmente en lugares como Indonesia, ya han comenzado a utilizar herramientas de IA, desafiando las pautas de los proveedores como Meta y la empresa líder en IA generativa, OpenAI.
En febrero, el consejo de supervisión de Meta criticó las normas existentes de la empresa sobre medios manipulados, describiéndolas como «incoherentes». La revisión del consejo de un video publicado en Facebook el año pasado, que manipulaba imágenes reales para falsamente insinuar un comportamiento inapropiado por parte del presidente de los Estados Unidos en ese momento, Joe Biden, reveló la necesidad de pautas más completas. El video se permitió permanecer en la plataforma según la política existente de Meta, que solo aborda videos engañosamente alterados producidos por IA o aquellos que hacen que las personas parezcan decir palabras que nunca dijeron realmente.
El consejo de supervisión enfatizó la importancia de aplicar la política al contenido no relacionado con IA, ya que puede ser igual de engañoso que el contenido generado por IA. También sugirieron extender la política a contenido solo de audio y videos que representan a individuos realizando acciones que nunca llevaron a cabo realmente.
Con estas nuevas políticas anunciadas por Meta, la empresa tiene como objetivo abordar los desafíos planteados por los medios engañosos y asegurar que los usuarios estén mejor informados sobre la autenticidad del contenido que encuentran en sus plataformas.
### Preguntas frecuentes
1. ¿Qué es Meta?
Meta es la empresa matriz de las populares plataformas de redes sociales Facebook e Instagram.
2. ¿Qué significan las etiquetas «Creado con IA»?
Las etiquetas «Creado con IA» son indicadores que se aplicarán a videos, imágenes y audio generados por IA compartidos en Facebook e Instagram. Estas etiquetas tienen como objetivo informar a los usuarios que el contenido fue creado utilizando tecnologías de inteligencia artificial.
3. ¿Qué son las etiquetas «de alto riesgo»?
Las etiquetas «de alto riesgo», que se implementarán más prominentemente, indican contenido digitalmente alterado que tiene un potencial significativo para engañar materialmente al público sobre temas importantes.
4. ¿Qué servicios están cubiertos por el nuevo enfoque de etiquetado de Meta?
El nuevo enfoque de etiquetado se aplicará al contenido publicado en Facebook, Instagram y Threads.
5. ¿Qué cambios traerán las nuevas políticas de Meta?
Las nuevas políticas de Meta cambiarán la forma en que la empresa aborda el contenido manipulado, centrándose en proporcionar información sobre cómo se produjo el contenido mientras se mantiene visible, en lugar de eliminarlo directamente.
6. ¿Por qué se están implementando estos cambios antes de las elecciones presidenciales en EE. UU.?
Los investigadores tecnológicos advierten que las tecnologías de IA generativa pueden tener un impacto significativo en las próximas elecciones presidenciales en EE. UU. Al implementar estos cambios, Meta espera abordar problemas potenciales y mejorar su capacidad para combatir el contenido engañoso.
The source of the article is from the blog exofeed.nl