La tecnología de marcado de agua ha sido promocionada como una solución al creciente problema de desinformación de IA en internet. Sin embargo, expertos y una revisión de NBC News han encontrado que los métodos actuales de marcado de agua están lejos de ser efectivos. A pesar de que empresas como Meta y Adobe se han adherido a estándares de marcado de agua, los resultados han sido decepcionantes.
Uno de los principales desafíos del marcado de agua radica en su vulnerabilidad alud. Las tecnologías de marcado de agua contemporáneas suelen depender de dos componentes: una etiqueta invisible en los metadatos de una imagen y una etiqueta visible superpuesta en la imagen. Desafortunadamente, tanto las marcas de agua invisibles como las etiquetas visibles son fáciles de eliminar mediante métodos simples como tomar capturas de pantalla y recortar.
Otro problema es que las principales empresas de redes sociales y tecnología no han hecho cumplir el uso de etiquetas en contenido generado por IA o editado por IA. Esta falta de mandatos estrictos ha limitado el impacto de los esfuerzos de marcado de agua. Por ejemplo, cuando el CEO de Meta, Mark Zuckerberg, actualizó su foto de portada de Facebook con una imagen generada por IA, la etiqueta que indicaba su origen de IA no era visible para los usuarios a menos que hicieran clic en la foto. Esto demuestra las deficiencias de la tecnología actual de marcado de agua.
Meta, en un intento por abordar este problema, anunció en febrero su plan para identificar contenido generado por IA a través de la tecnología de marcado de agua y etiquetar dicho contenido en Facebook, Instagram y Threads. Sin embargo, incluso Meta reconoce que el marcado de agua no es infalible y puede ser fácilmente manipulado. La compañía planea introducir normas más estrictas en los próximos meses, exigiendo a los usuarios que revelen contenido generado por IA e imponiendo sanciones por incumplimiento.
La visibilidad de las etiquetas de marca de agua también presenta desafíos. Eliminar marcas de agua visibles solo lleva unos segundos, socavando la seguridad que se supone proporcionan. Esto plantea preocupaciones sobre la fiabilidad del marcado de agua para verificar contenido genuino e identificar con precisión los medios generados por IA.
Además, a pesar de los esfuerzos de grandes empresas tecnológicas como Meta, Google, Microsoft y Adobe para adoptar estándares cooperativos de marcado de agua, hay miles de modelos de IA disponibles para descargar que no se adhieren a estos estándares. Esto crea una brecha significativa en la lucha efectiva contra la desinformación de IA.
Las limitaciones del marcado de agua se hacen especialmente evidentes al considerar el aumento de deepfakes. Los deepfakes son medios generados por IA que a menudo se utilizan para atacar a individuos con imágenes y videos manipulados sin su consentimiento. El marcado de agua por sí solo no puede abordar adecuadamente las complejidades y desafíos éticos planteados por los deepfakes.
A medida que los deepfakes continúan utilizándose en estafas, desinformación política y violaciones de privacidad, queda claro que se necesita un enfoque integral para abordar el problema. El marcado de agua, aunque un paso en la dirección correcta, no puede ser el único recurso para hacer frente a los deepfakes.
En conclusión, el marcado de agua ha demostrado potencial como una herramienta para combatir la desinformación de IA, pero falla en la práctica. Sus vulnerabilidades, facilidad de eliminación y falta de cumplimiento universal obstaculizan su efectividad. Para abordar realmente los desafíos de los medios generados por IA, se requiere un enfoque multifacético que incorpore tecnologías avanzadas, regulaciones sólidas y conciencia pública.
Preguntas Frecuentes
The source of the article is from the blog be3.sk