La inteligencia artificial (IA) ha dado un paso adelante con la introducción de Sora, una potente nueva herramienta de IA desarrollada por OpenAI. Aunque la herramienta aún no está disponible públicamente, ya ha suscitado preocupaciones sobre la propagación de videos deepfake y sus posibles implicaciones para diversas industrias.
Sora es una aplicación de IA que transforma indicaciones escritas en videos originales. Según OpenAI, la herramienta tiene la capacidad de crear videos sofisticados de 60 segundos de duración con escenas detalladas, movimientos de cámara complejos y emociones vibrantes de múltiples personajes. Aunque esta tecnología tiene un potencial inmenso para la innovación y la creatividad, los expertos advierten sobre su mal uso y los desafíos que plantea a la sociedad.
Oren Etzioni, el fundador de TruMedia.org, expresa sus preocupaciones sobre la rápida evolución de las herramientas de IA generativa, destacando las vulnerabilidades que crean en los procesos democráticos. A medida que se acerca la elección presidencial de 2024, la amenaza de la desinformación y los videos deepfake se vuelve aún más significativa. Organizaciones como TruMedia.org se dedican a luchar contra la desinformación basada en IA, centrándose en identificar los medios manipulados.
Para abordar los riesgos potenciales asociados con Sora, OpenAI ha limitado el acceso a la herramienta, permitiendo solo a «equipos rojos», artistas visuales, diseñadores y cineastas probarla y brindar comentarios. También habrá expertos en seguridad que evaluarán la herramienta para comprender su potencial para crear desinformación y contenido ofensivo.
A pesar de la disponibilidad restringida, los expertos creen que es solo cuestión de tiempo antes de que una tecnología similar, ya sea Sora u otra herramienta de competencia, se vuelva ampliamente accesible. Esto plantea preocupaciones sobre la proliferación de deepfakes de video de alta calidad y la facilidad con la que actores maliciosos pueden crear contenido ofensivo.
Sora no solo presenta riesgos para campañas políticas y celebridades, sino que también representa una amenaza para profesionales en industrias de creación de contenido. Actores de voz, diseñadores de videojuegos, cineastas y especialistas en marketing podrían ver cómo sus roles se ven afectados, ya que modelos de IA multimodales como Sora ofrecen ahorros de costos y la capacidad de generar contenido sin depender de actores humanos.
Además, Sora podría incluso permitir a ciudadanos comunes desarrollar sus propios medios basados en indicaciones, lo que llevaría al surgimiento de contenido de estilo elige-tu-propia-aventura. Grandes empresas como Netflix podrían adoptar esta tecnología y permitir a los usuarios finales desarrollar contenido personalizado.
A medida que avanza la tecnología, la responsabilidad recae en las organizaciones e instituciones de desarrollar sus propias herramientas de IA para combatir los posibles peligros de los videos deepfake. Salvaguardar a los consumidores y protegerse contra amenazas se vuelve primordial, especialmente para industrias como la banca que dependen de medidas de seguridad de autenticación de video.
Si bien Sora ofrece emocionantes posibilidades de innovación, también plantea importantes consideraciones éticas y de seguridad. A medida que navegamos por esta nueva frontera, es crucial establecer pautas y regulaciones adecuadas que equilibren las ventajas de la IA con los riesgos potenciales que presenta.
The source of the article is from the blog trebujena.net