Midjourney, el popular generador de imágenes de inteligencia artificial, ha anunciado recientemente que bloqueará temporalmente a sus usuarios de crear imágenes falsas del presidente Joe Biden y del ex presidente Donald Trump. Esta decisión surge en medio de la elección presidencial de EE. UU. en curso y tiene como objetivo evitar que la herramienta sea utilizada con propósitos políticos. El CEO de Midjourney, David Holz, hizo el anuncio durante un evento de oficina digital, afirmando que la moderación de dicho contenido es un desafío y que el bloqueo es una medida temporal para abordar el problema.
Aunque la compañía no proporcionó detalles específicos sobre los cambios de política, Holz enfatizó que el objetivo es dificultar que las personas abusen de la herramienta de IA. Midjourney no ha respondido a las solicitudes de comentarios adicionales sobre el asunto.
Informes indican que la nueva política ya está siendo implementada, ya que las pruebas realizadas por periodistas de The Associated Press resultaron en mensajes de advertencia al intentar generar imágenes de «Trump y Biden dándose la mano en la playa». Las advertencias aumentaron a una «alerta de abuso» en un segundo intento.
Esta acción de Midjourney se alinea con los esfuerzos para abordar las preocupaciones sobre herramientas de IA generativa y el potencial de desinformación electoral. Durante una reciente entrevista, Callum Hood, jefe de investigación del Center for Countering Digital Hate, afirmó que se encontró que Midjourney tenía los controles más débiles entre las principales herramientas de generación de imágenes al generar imágenes convincentes de figuras políticas como Biden y Trump. El informe del grupo también reveló que Midjourney tuvo el peor desempeño entre las herramientas probadas, fallando en un 65% de los casos y contribuyendo a la desinformación electoral.
Es importante destacar que la decisión de Midjourney de bloquear la creación de imágenes falsas de Biden y Trump ayuda a abordar una debilidad significativa en comparación con otros generadores de imágenes populares. Sin embargo, aún está por verse si estos cambios de política tendrán un impacto duradero en la difusión de deepfakes políticos.
Curiosamente, Midjourney opera de manera diferente a otros generadores de imágenes en el sentido de que sus usuarios pueden ver e interactuar con los estímulos e imágenes públicamente en la plataforma de redes sociales Discord. Este compromiso público ha llevado al grupo de Discord de Midjourney a convertirse en el más grande de la plataforma con más de 19 millones de miembros. El CEO David Holz utiliza frecuentemente esta plataforma para sus ‘horas de oficina’ semanales, donde discute temas variados relacionados con la IA y el futuro de la humanidad.
En una declaración prospectiva, Holz expresó su anticipación de que el panorama de las imágenes falsas evolucionará significativamente en los próximos años. Predijo que para el 2028, todos los candidatos presidenciales tendrán «chatbots deepfake» de aspecto real con puntos de discusión simulados. A pesar del bloqueo temporal para crear imágenes falsas, Holz advirtió que las personas determinadas a producir deepfakes encontrarán alternativas aún más sofisticadas y capaces que los sistemas existentes.
Midjourney, fundada en 2020 y con sede cerca de San Francisco, se describe a sí misma como un laboratorio de investigación independiente enfocado en explorar nuevos procesos de pensamiento y expandir los poderes imaginativos de la humanidad. Desde la presentación de su generador de imágenes público en 2022, la compañía ha captado una atención significativa en el espacio de la tecnología de IA generativa.
FAQ
¿Qué es Midjourney?
Midjourney es un generador de imágenes de inteligencia artificial desarrollado por un laboratorio de investigación independiente. Permite a los usuarios generar imágenes realistas basadas en varios estímulos.
¿Por qué Midjourney bloqueó la creación de imágenes falsas de Biden y Trump?
Con las elecciones presidenciales de EE. UU. en curso, Midjourney implementó un bloqueo temporal para prevenir el mal uso de su herramienta con propósitos políticos y abordar la posible difusión de desinformación electoral.
¿Cómo difiere Midjourney de otros generadores de imágenes?
Una diferencia clave es que Midjourney opera en la plataforma de redes sociales Discord, donde los usuarios pueden ver e interactuar públicamente con los estímulos e imágenes de otros.
¿Qué depara el futuro para las imágenes falsas?
El CEO de Midjourney, David Holz, anticipa que el panorama de las imágenes falsas seguirá evolucionando, con los candidatos presidenciales potencialmente utilizando «chatbots deepfake» más sofisticados en el futuro.
Fuente: The Associated Press.
Definiciones
– Inteligencia Artificial (IA): Se refiere a la simulación de la inteligencia humana en máquinas que están programadas para pensar y aprender como los humanos, lo que les permite realizar tareas que generalmente requieren inteligencia humana.
– Generador de Imágenes: Una herramienta o software que genera imágenes basadas en ciertas entradas o estímulos.
– Mal Uso: El uso incorrecto o no autorizado de algo, en este caso, se refiere al uso del generador de imágenes con propósitos políticos que pueden difundir desinformación.
– Moderación: El acto de monitorear y controlar el contenido o comportamiento para asegurar que cumple con ciertos estándares o reglas.
– Herramientas de IA Generativa: Herramientas de IA que pueden generar contenido nuevo y original, como imágenes, basadas en ciertas entradas o estímulos.
– Deepfakes: Medios manipulados artificialmente, generalmente en forma de videos o imágenes, que muestran a individuos diciendo o haciendo cosas que nunca dijeron o hicieron realmente.
– Discord: Una plataforma de redes sociales que permite a los usuarios crear comunidades e interactuar entre ellos a través de canales de texto, voz y video.
Enlaces relacionados:
– Midjourney: Página web oficial de Midjourney, el generador de imágenes de inteligencia artificial.
– Deepfakes: Información de la Liga Anti-Difamación sobre deepfakes y sus implicaciones.
– Discord: Página web oficial de Discord, la plataforma de redes sociales donde opera Midjourney.
The source of the article is from the blog maltemoney.com.br