Una empresa de escaneo de armas con inteligencia artificial, Evolv Technology, ha sido objeto de críticas recientes por exagerar las capacidades de sus escáneres «inteligentes». Estos escáneres están diseñados para identificar a individuos que portan armas de fuego, cuchillos y bombas ocultas, con el objetivo de reemplazar los detectores de metal tradicionales. Sin embargo, se han levantado críticas contra Evolv por hacer afirmaciones engañosas sobre la efectividad de su tecnología.
Una de las afirmaciones clave hechas por Evolv fue que su escáner de armas IA había sido probado y validado por la Autoridad Nacional de Seguridad Protectora (NPSA) del gobierno del Reino Unido. Sin embargo, se ha revelado que la NPSA no lleva a cabo este tipo de pruebas. Ante esta información, Evolv declaró que había actualizado su lenguaje en un comunicado de prensa para reflejar mejor el proceso de prueba, aclarando que una empresa independiente había «probado y validado» su tecnología utilizando los estándares de la NPSA. Sin embargo, la empresa responsable de estas pruebas, Metrix NDT, disputó la afirmación de que habían validado el sistema. Aclararon que si bien habían probado el sistema según las especificaciones de la NPSA, no podían emitir juicios de valor sobre los resultados.
Estas revelaciones han generado preocupaciones sobre la precisión y confiabilidad de la tecnología de Evolv. La Profesora Marion Oswald, exmiembro del consejo asesor del Centro de Ética de Datos e Innovación del gobierno, resaltó la necesidad de un escrutinio detallado y una posible regulación adicional de empresas que hacen tales afirmaciones. Expresó su preocupación sobre cómo los clientes podrían ser influenciados, especialmente si se hacen afirmaciones sobre la participación de organismos gubernamentales.
Se dice que la tecnología de Evolv detecta las «firmas» de armas ocultas basadas en factores como la composición metálica, la forma y la fragmentación. Sin embargo, la empresa ha enfrentado críticas por su incapacidad para detectar consistentemente cuchillos y ciertos tipos de explosivos. Tras una solicitud de Libertad de Información, se reveló que las pruebas realizadas por una instalación estadounidense encontraron que la tecnología de Evolv no podía detectar de manera confiable estos elementos. Los probadores instaron a Evolv a informar a los posibles clientes sobre estas limitaciones.
En respuesta a las críticas, Evolv ha realizado varias modificaciones a sus afirmaciones. Ha cambiado su sitio web y su declaración de misión, centrándose ahora en la creación de «experiencias más seguras» en lugar de «zonas libres de armas». La empresa también expresó su arrepentimiento por cualquier confusión causada por sus declaraciones pasadas y la generalización de sus capacidades.
Estos desarrollos resaltan la importancia de la transparencia y la precisión cuando se trata de tecnología que tiene como objetivo mejorar la seguridad. Los clientes y los organismos reguladores deben tener acceso a información confiable e informes de pruebas independientes para tomar decisiones informadas sobre la eficacia de dichos sistemas. Solo con un escrutinio minucioso y una evaluación rigurosa podemos garantizar la seguridad de los espacios públicos.
Preguntas Frecuentes
1. ¿Ha sido probada la tecnología de Evolv por el gobierno del Reino Unido?
Si bien inicialmente Evolv afirmó que su tecnología había sido probada y validada por la Autoridad Nacional de Seguridad Protectora (NPSA) del gobierno del Reino Unido, se reveló que la NPSA no realiza este tipo de pruebas. En su lugar, una empresa independiente probó y validó la tecnología de Evolv utilizando los estándares de la NPSA.
2. ¿Pueden los escáneres de Evolv detectar de manera confiable cuchillos y ciertos tipos de explosivos?
Pruebas realizadas por una instalación estadounidense encontraron que la tecnología de Evolv no podía detectar de manera consistente cuchillos y ciertos tipos de bombas. La empresa ha modificado sus declaraciones, afirmando que puede detectar «muchos tipos de cuchillos y algunos explosivos».
3. ¿Cuál es la importancia de estos desarrollos?
Estos desarrollos resaltan la necesidad de transparencia, precisión y escrutinio independiente de la tecnología que tiene como objetivo mejorar la seguridad. Es fundamental que los clientes y los organismos regulatorios tengan acceso a información confiable e informes de pruebas para tomar decisiones informadas sobre la eficacia de dichos sistemas. Al priorizar la evaluación exhaustiva, podemos garantizar la seguridad de los espacios públicos.
The source of the article is from the blog windowsvistamagazine.es