A medida que avanza el desarrollo de la tecnología de inteligencia artificial generativa, empresas como OpenAI y Google, junto con otras como Anthropic, siguen mejorando constantemente sus modelos de lenguaje a gran escala. Reconociendo la importancia de evaluar la seguridad de estos modelos, los gobiernos del Reino Unido y Estados Unidos han firmado un Memorando de Entendimiento para establecer un enfoque común para la evaluación independiente.
Bajo esta nueva asociación, el Instituto de Seguridad de IA del Reino Unido y su contraparte estadounidense, que estará operativa prontamente, colaborarán en el desarrollo de una serie de pruebas para evaluar los riesgos asociados con los modelos de IA más avanzados. Con el fin de garantizar evaluaciones exhaustivas, ambas organizaciones compartirán conocimientos técnicos, información y personal.
Uno de los objetivos iniciales de esta asociación es llevar a cabo un ejercicio de pruebas conjunto en un modelo de acceso público. La urgencia de actuar rápidamente se debe a la anticipación de una nueva generación de modelos de IA que se espera que surjan en el próximo año, los cuales podrían tener un impacto innovador en diversas industrias y sectores.
La colaboración entre el Reino Unido y Estados Unidos es significativa ya que marca el primer acuerdo bilateral sobre seguridad de IA. Sin embargo, ambos países tienen la intención de ampliar sus colaboraciones con otras naciones en el futuro. Reconociendo el potencial transformador de la IA, la Secretaria de Comercio de EE. UU., Gina Raimondo, afirma: «La IA es la tecnología definitoria de nuestra generación». Esta asociación no solo busca mitigar los riesgos para la seguridad nacional, sino que también se esfuerza por garantizar el bienestar de la sociedad en su conjunto.
Si bien el enfoque de esta colaboración particular es la evaluación y la evaluación, los gobiernos de todo el mundo están trabajando en regulaciones para garantizar el uso responsable de la IA. En marzo, la Casa Blanca emitió una orden ejecutiva para limitar el uso de herramientas de IA dentro de agencias federales con el fin de proteger los derechos y la seguridad de los ciudadanos. De manera similar, el Parlamento Europeo ha aprobado una legislación integral que regula la inteligencia artificial, prohibiendo acciones como la manipulación del comportamiento humano, la explotación de vulnerabilidades y la recopilación de datos no dirigida.
A medida que la IA continúa avanzando, la importancia de una evaluación sólida, la colaboración entre gobiernos y la implementación de regulaciones para salvaguardar a la sociedad no puede ser subestimada.
Preguntas Frecuentes sobre la Inteligencia Artificial Avanzada
The source of the article is from the blog queerfeed.com.br