Microsoft establece nuevas pautas para el uso de inteligencia artificial por parte de la aplicación de la ley a nivel mundial
En una actualización de política significativa, Microsoft ha introducido regulaciones más estrictas que detienen a las agencias de aplicación de la ley de todo el mundo de utilizar tecnologías de reconocimiento facial a través del Servicio Azure OpenAI. Esta nueva directiva tiene como objetivo evitar explícitamente cualquier integración de tecnología de reconocimiento facial en tiempo real en dispositivos de grabación móviles, como cámaras corporales y cámaras de tablero, con servicios diseñados para identificar personas en entornos reales.
La modificación se produjo poco después de que el productor de tecnología y armamento Axon anunciara una nueva herramienta que utiliza el modelo de texto generativo GPT-4 de OpenAI, lo que generó preocupaciones sobre problemas como alucinaciones generadas por IA y prejuicios raciales derivados de datos de entrenamiento sesgados. Aunque no está claro si el producto de Axon utilizó GPT-4 a través del Servicio Azure OpenAI, Microsoft ha tomado medidas para prevenir cualquier uso similar en contextos de aplicación de la ley en el futuro.
Aunque la prohibición de utilizar el Servicio Azure OpenAI aborda específicamente a la aplicación de la ley estadounidense, deja cierta flexibilidad para la aplicación de tecnologías de reconocimiento por parte de agencias internacionales. Sin embargo, Microsoft no impone restricciones en el reconocimiento facial a través de cámaras estáticas en entornos controlados, como oficinas, para fines no relacionados con la aplicación de la ley. El enfoque de la compañía se alinea con contratos recientes de IA relacionados con la aplicación de la ley y la defensa, un cambio con respecto a posturas anteriores, ya que Microsoft y OpenAI participan en proyectos militares, incluidas iniciativas de ciberseguridad para el Pentágono.
Candice Ling, Vicepresidenta de Microsoft Federal, reafirmó el compromiso de la compañía de cumplir con demandas adicionales de cumplimiento para su Servicio Azure OpenAI orientado al gobierno, que podrían incluir evaluaciones del Departamento de Defensa de los EE. UU. para apoyar misiones militares. Mientras tanto, Microsoft aclaró que el servicio no está completamente prohibido para los departamentos de policía, solo el aspecto de reconocimiento facial a través de esta plataforma en los Estados Unidos.
La política de inteligencia artificial de reconocimiento facial de Microsoft en contexto
La decisión de Microsoft de limitar el uso de la inteligencia artificial de reconocimiento facial por parte de la aplicación de la ley se alinea con un debate más amplio de la industria tecnológica sobre las implicaciones éticas de la IA y la tecnología de vigilancia. Hay varios aspectos importantes a considerar:
Preguntas clave y respuestas:
– ¿Qué llevó a Microsoft a actualizar su política? El cambio de política probablemente fue una respuesta a preocupaciones sobre privacidad, uso potencial indebido y prejuicios en la IA, especialmente con el anuncio de Axon de integrar dicha tecnología en sus ofertas.
– ¿Cómo afecta esto a las agencias de aplicación de la ley? Las agencias no podrán utilizar el Servicio Azure OpenAI de Microsoft para necesidades de reconocimiento facial en tiempo real, lo que podría llevar a recurrir a otros proveedores o tecnologías menos restringidas.
Desafíos y controversias clave:
– Preocupaciones de privacidad: Existe una línea delgada entre utilizar la tecnología para la seguridad pública y vulnerar los derechos individuales de privacidad. La tecnología de reconocimiento facial podría utilizarse para vigilancia masiva, planteando cuestiones éticas y legales.
– Exactitud y prejuicio: Críticas anteriores al reconocimiento facial han señalado inexactitudes, especialmente al identificar a mujeres y personas de color, lo que puede llevar a identificaciones erróneas e injusticias potenciales.
Ventajas y desventajas
Ventajas:
– Mejora la privacidad y las libertades civiles al limitar el uso de tecnología de vigilancia potencialmente invasiva.
– Fomenta el uso responsable de la IA, sentando un precedente para el desarrollo y despliegue ético de la IA.
– Podría impulsar una discusión más amplia sobre estándares nacionales o globales para el uso de la tecnología de reconocimiento facial por parte de la aplicación de la ley.
Desventajas:
– Las agencias de aplicación de la ley podrían perder una herramienta que podría usarse para mejorar la seguridad pública y ayudar en investigaciones criminales.
– Posibilidad de una diversidad de estándares si diferentes empresas tecnológicas establecen sus propias políticas sin un estándar de la industria unificado.
– Las agencias de aplicación de la ley podrían recurrir a otros proveedores, potencialmente con menores estándares éticos o tecnología menos rigurosa, lo que podría llevar a otros problemas.
Para aquellos que deseen comprender el contexto más amplio de Microsoft y sus servicios, el siguiente enlace proporciona acceso a su sitio principal: Microsoft. Recuerde que la información detallada sobre sus políticas de IA y servicios de Azure quizás no esté directamente disponible en su página de inicio, pero generalmente se encuentra en secciones más específicas relacionadas con ética de la IA, actualizaciones de noticias o descripciones de servicios de Azure.