Ella Irwin, anteriormente jefa de confianza y seguridad en X bajo Elon Musk, recientemente se unió a Stability AI como vicepresidenta sénior de integridad. En Stability AI, Irwin será responsable de supervisar la estrategia e implementación de salvaguardias relacionadas con temas importantes como la seguridad infantil, la propiedad intelectual y la desinformación.
Stability AI, conocida por su desarrollo del modelo de generación de texto a imagen llamado Stable Diffusion, busca abordar las crecientes preocupaciones en torno al uso seguro y desarrollo de productos de IA. Con el rápido crecimiento en la producción y aplicación de IA en el último año, las discusiones y preocupaciones sobre el uso responsable de esta tecnología han tomado protagonismo.
Informes recientes de investigadores de Stanford han revelado hallazgos perturbadores, incluyendo más de 1,000 casos de imágenes de explotación infantil descubiertas en una base de datos de imágenes ampliamente utilizada para entrenar modelos de IA, incluyendo Stable Diffusion. Además, a medida que Estados Unidos se prepara para las elecciones de 2024, hay una necesidad apremiante de abordar la posible desinformación derivada de la tecnología de IA.
Emad Mostaque, fundador y CEO de Stability AI, expresó el compromiso de la empresa de promover prácticas éticas y proteger a la sociedad y la democracia contra el mal uso de la tecnología de IA. La empresa tiene como objetivo desarrollar medidas como filtros para conjuntos de datos e investigar la identificación y etiquetado de contenido sintético para combatir la desinformación.
Al unirse a Stability AI, Irwin compartió su admiración por el trabajo y las iniciativas de integridad en curso en la empresa. Destacó el desarrollo en curso de filtros en torno a los conjuntos de datos y la investigación sobre desinformación como iniciativas especialmente emocionantes. Irwin enfatizó que ser parte de las primeras etapas de la revolución tecnológica es realmente extraordinario.
La partida de Irwin de X se produjo después de que Musk criticara las acciones de moderación tomadas bajo su liderazgo, específicamente en relación con el mal uso de los pronombres de género y la moderación de una película anti-trans. Ella declaró que dejó X cuando quedó claro que ya no había alineación entre la empresa y sus principios innegociables.
El nuevo rol de Irwin en Stability AI marca un movimiento significativo en su carrera, mientras asume el desafío de salvaguardar la integridad en el desarrollo y uso de productos de IA.
The source of the article is from the blog portaldoriograndense.com