Artistas de todo el mundo han estado enfrentando una creciente preocupación a medida que las herramientas de inteligencia artificial (IA) generan imágenes que imitan sus estilos únicos. Mignon Zakuga, ilustradora de portadas de libros y artista de videojuegos, ha sido testigo de cómo posibles clientes optan por imágenes generadas por IA en lugar de encargar su trabajo. Este fenómeno ha generado preocupaciones sobre el futuro de los artistas jóvenes y emergentes en la industria.
Para combatir este problema, los investigadores de la Universidad de Chicago, Ben Zhao y Heather Zheng, han desarrollado dos nuevas herramientas llamadas Glaze y Nightshade. Estas herramientas tienen como objetivo proteger el trabajo de los artistas modificando los píxeles de una imagen de manera sutil e imperceptible para los humanos, pero confusa para los modelos de IA. Similar a las ilusiones ópticas, estas modificaciones engañan a los modelos de IA para percibir la imagen de manera diferente.
Glaze está diseñado para enmascarar el estilo único de un artista, evitando que los modelos de IA aprendan y repliquen su trabajo. Al introducir imágenes «Glazed» en conjuntos de datos de entrenamiento, los modelos de IA se confunden y producen salidas mixtas e inexactas. Nightshade, por otro lado, adopta un enfoque más agresivo al sabotear los modelos de IA generativos existentes. La herramienta convierte imágenes de entrenamiento potenciales en «veneno» que enseña a la IA a asociar ideas e imágenes fundamentales de manera incorrecta.
Estas herramientas han brindado cierto alivio a artistas como Zakuga, quien utiliza regularmente Glaze y Nightshade para proteger su trabajo. Sin embargo, las herramientas tienen limitaciones. Ocultar una imagen puede llevar tiempo y solo pueden proteger trabajos nuevos. Una vez que una imagen ha sido incluida en un conjunto de datos de entrenamiento de IA, es demasiado tarde para ocultarla. Además, no hay garantía de que estas herramientas sigan siendo efectivas a largo plazo. A medida que evolucionan los modelos de IA, los métodos de ocultación pueden volverse obsoletos.
A pesar de las limitaciones actuales, estas herramientas ofrecen una solución temporal para los artistas que buscan proteger su trabajo de imitadores de IA. Investigadores como Zhao y Zheng continúan refinando y mejorando estas herramientas, logrando un equilibrio entre la interrupción y el mantenimiento de la integridad de una imagen. A medida que el juego del gato y el ratón entre artistas e IA continúa, el desarrollo de herramientas de protección sólidas y a prueba de futuro sigue siendo un desafío.
The source of the article is from the blog jomfruland.net