YouTube ha anunciado nuevas pautas que requieren a los usuarios indicar si los videos que suben contienen medios alterados o sintéticos. Con un enfoque en «temas sensibles» como la salud, las noticias, las elecciones y las finanzas, YouTube etiquetará ahora los videos para informar a los espectadores sobre la naturaleza del contenido.
A partir del lunes, los usuarios que suban nuevos videos serán solicitados para responder si su contenido contiene elementos alterados. Se les preguntará si sus videos hacen que una persona real parezca decir o hacer algo que no hizo, si alteran imágenes de un evento o lugar real o si generan una escena de apariencia realista que nunca ocurrió. Si la respuesta es afirmativa, YouTube incluirá una etiqueta en la descripción del video indicando que contiene contenido alterado o sintético.
A pesar del anuncio de YouTube, la nueva función no estuvo disponible de inmediato cuando fue probada por NBC News. Sin embargo, YouTube tiene la intención de hacerla accesible pronto.
Este desarrollo se alinea con los esfuerzos continuos de las compañías tecnológicas para abordar el problema de la desinformación generada por IA en línea. YouTube, propiedad de Google, ya alberga numerosos videos que son completamente generados por IA o contienen elementos generados por IA. Anteriormente, una investigación de NBC News descubrió videos que difundían noticias falsas sobre celebridades afroamericanas, utilizando herramientas de IA. Estos videos empleaban narraciones de audio generadas por IA y fotos editadas por IA para manipular su contenido.
Según las nuevas reglas de YouTube, no todos los ejemplos previamente identificados de contenido sintético serían etiquetados en consecuencia. Por ejemplo, utilizar tecnología de IA de texto a voz para crear doblajes no necesariamente requeriría una etiqueta a menos que el objetivo sea engañar a los espectadores con una voz falsa pero realista imitando a la de una persona real.
YouTube planea implementar primero las etiquetas de contenido alterado y sintético en su aplicación móvil, seguido por su navegador de escritorio y YouTube TV en las próximas semanas. En el futuro, YouTube podría penalizar a los usuarios que no divulguen consistentemente esta información, y podría agregar etiquetas al contenido no etiquetado que pueda confundir o engañar a los espectadores.
Aunque YouTube ha enfrentado desafíos para combatir la desinformación generada por IA, su empresa matriz, Google, ha lanzado productos de IA para consumidores como Gemini, un generador de imágenes de IA. Sin embargo, Gemini recibió críticas por producir imágenes históricas engañosas con personas no blancas en situaciones inapropiadas. En respuesta, Google limitó temporalmente la capacidad de Gemini para generar imágenes de personas.
### Preguntas Frecuentes
#### ¿Qué tipos de videos etiquetará YouTube?
YouTube etiquetará videos relacionados con «temas sensibles» como la salud, noticias, elecciones y finanzas.
#### ¿Qué solicitudes recibirán los usuarios para contenido alterado?
Los usuarios deberán responder si sus videos hacen que una persona real parezca decir o hacer algo que no hizo, si alteran imágenes de un evento o lugar real o si generan una escena de apariencia realista que nunca ocurrió.
#### ¿Cuándo se introducirán las nuevas pautas en YouTube?
Las etiquetas de contenido alterado y sintético se introducirán primero en la aplicación móvil de YouTube, seguido por su navegador de escritorio y YouTube TV en las próximas semanas.
#### ¿Qué sucede si los usuarios no divulgan contenido alterado o sintético de manera consistente?
YouTube podría penalizar a los usuarios que elijan no divulgar esta información de manera consistente.
#### ¿Cómo está abordando Google, la empresa matriz de YouTube, el contenido generado por IA?
Google ha lanzado productos de IA para consumidores como Gemini, un generador de imágenes de IA. Sin embargo, Gemini recibió críticas por generar imágenes históricas engañosas y ha limitado temporalmente su capacidad para generar imágenes de personas.
Fuentes:
– NBC News
– Políticas de YouTube
The source of the article is from the blog zaman.co.at