En el ámbito de la inteligencia artificial (IA), artistas y científicos de la computación han descubierto una manera innovadora de resguardar sus imágenes con derechos de autor de ser replicadas por programas de IA. Están utilizando una herramienta llamada Nightshade, desarrollada por investigadores de la Universidad de Chicago, para «envenenar» modelos de IA con imágenes manipuladas. Aunque los humanos pueden no notar los cambios, son lo suficientemente significativos como para confundir a las plataformas de IA.
Karla Ortiz, una destacada artista conceptual e ilustradora, es una de las artistas que han adoptado el uso de Nightshade para proteger su trabajo de ser escaneado y reproducido sin permiso. Ortiz, cuyas obras han sido destacadas en proyectos notables como «Star Wars» y «Black Panther», expresó su preocupación por el uso no autorizado de su trabajo, enfatizando la falta de reconocimiento y compensación para los artistas en tales situaciones.
Nightshade aprovecha el hecho de que los modelos de IA perciben las imágenes de manera diferente a los humanos. Shawn Shan, el investigador principal, explica que las máquinas perciben las imágenes como matrices de números que representan los valores de píxeles. Al hacer sutiles alteraciones a miles de píxeles, Nightshade crea una versión distorsionada de una imagen que aparece diferente a los modelos de IA.
La herramienta selecciona automáticamente el concepto deseado para confundir los sistemas de IA. Por ejemplo, una serie de distorsiones sutiles pueden aplicarse a fotos de perros, haciendo que el modelo de IA las perciba como gatos. En experimentos, solo tomó alrededor de 30 imágenes «envenenadas» para afectar significativamente la percepción del modelo y generar resultados inesperados.
Si bien Nightshade puede interrumpir aplicaciones de IA específicas, Ben Zhao, el profesor a cargo del laboratorio de la Universidad de Chicago, no cree que represente una amenaza para la funcionalidad general de los generadores de imágenes de IA. En cambio, lo ve como un medio para disuadir a las empresas de utilizar el trabajo de los artistas sin una compensación adecuada. Zhao tiene la intención de mantener Nightshade disponible de forma gratuita para su uso.
En el campo de la IA, existen opciones para que los titulares de derechos de autor opten por proteger su contenido. Sin embargo, la proliferación de herramientas de IA ha superado estos esfuerzos, lo que requiere soluciones adicionales. Nightshade actúa como una herramienta valiosa en ausencia de regulaciones sólidas, demostrando la determinación de los artistas para proteger su propiedad intelectual.
Aunque Nightshade proporciona una defensa temporal contra el uso no autorizado, algunos expertos argumentan que los desarrolladores de IA probablemente desarrollarán contramedidas en respuesta a tales ataques. Sonja Schmer-Galunder, profesora de IA y ética, cree que el desarrollo de defensas tecnológicas mitigará el impacto de herramientas como Nightshade.
Los investigadores de la Universidad de Chicago reconocen el potencial para que las plataformas de IA actualicen sus sistemas y contrarresten la técnica de envenenamiento de imágenes de Nightshade. Sin embargo, Zhao enfatiza que colocar la carga en los individuos para proteger sus derechos es injusto. Lo compara con esperar que los peatones individualmente le pidan a los conductores que no los atropellen al cruzar la calle.
No obstante, Nightshade sigue siendo una herramienta importante para artistas como Karla Ortiz que buscan proteger su trabajo. Ortiz ve a Nightshade como un medio efectivo para advertir a los infractores potenciales de las consecuencias del uso no autorizado. Participa en una demanda colectiva contra varias empresas, incluidas Stability AI y DeviantArt, alegando infracción de derechos de autor.
A medida que el campo de la IA continúa evolucionando, las preocupaciones éticas relacionadas con la protección de la propiedad intelectual persisten. Si bien soluciones como Nightshade proporcionan alivio inmediato, es esencial adoptar un enfoque integral y equilibrado en cuanto a regulación y desarrollo tecnológico para abordar los desafíos enfrentados por los artistas y creadores de contenido en la era digital.
Preguntas Frecuentes
P: ¿Qué es Nightshade?
A: Nightshade es una herramienta desarrollada por investigadores de la Universidad de Chicago que modifica imágenes para confundir a los modelos de IA, protegiéndolas de la replicación no autorizada.
P: ¿Cómo funciona Nightshade?
A: Nightshade modifica miles de píxeles en las imágenes, creando cambios sutiles que son casi imperceptibles para los humanos pero afectan significativamente la percepción de los modelos de IA.
P: ¿Cuántas imágenes se necesitan para afectar a un modelo de IA?
A: En algunos casos, solo se necesitan alrededor de 30 imágenes «envenenadas» para alterar la percepción de un modelo de IA y producir resultados inesperados.
P: ¿Nightshade interrumpirá la funcionalidad de los generadores de imágenes de IA?
A: No, no se espera que Nightshade represente una amenaza significativa para los generadores de imágenes de IA. En cambio, sirve como un elemento disuasorio contra el uso no autorizado del trabajo de los artistas.
P: ¿Los titulares de derechos de autor pueden excluirse de los conjuntos de datos de IA?
A: Algunos modelos de IA ofrecen opciones de exclusión para los titulares de derechos de autor para evitar que su contenido se utilice. Sin embargo, estas medidas se consideran insuficientes debido al rápido avance de las herramientas de IA.
P: ¿Seguirá siendo Nightshade una herramienta gratuita?
A: Sí, Nightshade está actualmente disponible para su uso gratuito, y su desarrollador tiene la intención de mantenerlo de esa manera.
P: ¿Cuáles son las preocupaciones éticas más amplias relacionadas con la IA y la propiedad intelectual?
A: La proliferación de herramientas de IA ha planteado preocupaciones sobre la protección de la propiedad intelectual. Los deepfakes y las limitaciones del marcado de agua se han convertido en temas importantes de discusión dentro de la industria de la IA.
The source of the article is from the blog guambia.com.uy