Informes recientes de varios sectores han destacado los riesgos emergentes asociados con la inteligencia artificial (IA), que se extienden más allá de las preocupaciones expresadas anteriormente por figuras de Silicon Valley. La Autoridad Reguladora de la Industria Financiera (FINRA, por sus siglas en inglés) ha identificado la IA como un «riesgo emergente», mientras que el Foro Económico Mundial ha concluido que la mayor amenaza a corto plazo para la economía global es la desinformación impulsada por la IA.
El Consejo de Supervisión de la Estabilidad Financiera (FSOC, por sus siglas en inglés) también ha expresado preocupación por la IA, citando posibles daños directos al consumidor, decisiones sesgadas y defectos de diseño no detectados que podrían perturbar el sistema financiero. Gary Gensler, presidente de la Comisión de Valores y Bolsa (SEC, por sus siglas en inglés), ha expresado sus temores sobre los riesgos de estabilidad financiera que plantean las empresas de inversión que se basan en modelos de IA para la toma de decisiones.
En la conferencia anual del Foro Económico Mundial, la IA se ha convertido en un tema central, con discusiones sobre los riesgos y las implicaciones para la economía global. La encuesta del foro a responsables de políticas y líderes de la industria reveló que las noticias falsas y la propaganda generada por la IA se perciben como los mayores riesgos a corto plazo para la economía global, especialmente en relación con las próximas elecciones en varios países.
Las preocupaciones sobre la IA no se limitan al sector financiero. La Corte Suprema ha reconocido los riesgos asociados con la invasión de la privacidad por parte de la IA y la deshumanización de la ley. Expertos legales han advertido contra la dependencia excesiva de la IA en la gestión de finanzas, señalando el potencial de consecuencias no deseadas y las limitaciones de los sistemas de IA.
Si bien la IA presenta oportunidades para mejorar las comunicaciones con los clientes y la eficiencia operativa en la industria de servicios financieros, existen preocupaciones sobre decisiones sesgadas de préstamos y la posibilidad de un colapso del mercado si varias instituciones confían en el mismo sistema de IA defectuoso.
A medida que la IA se vuelve más compleja y capaz, los expertos se preocupan de que sistemas mal diseñados y la automatización de la «caja negra» puedan llevar a una ruptura de la confianza entre compradores y vendedores. Además, es necesario realizar pruebas de estrés a los sistemas de IA para comprender sus posibles fallas.
El debate en torno a los riesgos de la IA está ganando fuerza fuera de Silicon Valley, con reguladores, profesionales del derecho y líderes de la industria financiera expresando sus preocupaciones. Es crucial que los responsables de políticas, los profesionales de la industria y los investigadores aborden estos riesgos emergentes y se aseguren de que la IA se desarrolle y regule de una manera que priorice la seguridad, la equidad y la transparencia.
The source of the article is from the blog mendozaextremo.com.ar