Según un alto funcionario de la Agencia de Seguridad Nacional (NSA), los hackers y propagandistas están utilizando cada vez más chatbots generativos de inteligencia artificial (IA) para parecer más convincentes para los hablantes de inglés nativos. En la Conferencia Internacional sobre Seguridad Cibernética, el Director de Ciberseguridad de la NSA, Rob Joyce, reveló que los cibercriminales y hackers afiliados a agencias de inteligencia extranjeras están aprovechando chatbots de IA como ChatGPT para simular una comunicación fluida en inglés.
Joyce resaltó que estos chatbots han mejorado significativamente sus capacidades en inglés, lo que los hace más hábiles para producir contenido gramaticalmente correcto y persuasivo. Esta mejora plantea una preocupación significativa, ya que las operaciones de piratería suelen utilizar esquemas de phishing para engañar a las personas y hacer que divulguen información personal. Con la ayuda de la IA generativa, los hackers pueden refinar y generar sus comunicaciones, lo que dificulta cada vez más identificar actividades maliciosas en línea.
El uso de la IA generativa ha facilitado especialmente las campañas de propaganda en línea orquestadas por estados-nación como Rusia. Estas campañas implican la creación de cuentas engañosas que representan falsamente a usuarios estadounidenses. Al aprovechar la tecnología de IA, los hackers pueden generar contenido atractivo en inglés de manera fluida, amplificando aún más su influencia maligna.
Aunque Joyce no reveló ninguna compañía de IA específica, enfatizó que este problema es generalizado y afecta a todos los principales modelos de IA generativa. Específicamente, compañías como OpenAI y Google ofrecen chatbots de IA como ChatGPT y Bard, respectivamente, que han demostrado ser capaces de producir correos electrónicos de phishing convincentes.
Si bien algunos servicios de IA generativa afirman prohibir el uso de sus productos para actividades delictivas, la aplicación de estas restricciones sigue siendo un desafío. Los informes han demostrado que es relativamente fácil manipular a los chatbots de IA para generar contenido engañoso.
Sin embargo, la IA no es solo una herramienta para actores maliciosos; se está convirtiendo en un activo valioso en la defensa cibernética. Recientemente, la NSA estableció el Centro de Seguridad de la IA, con el objetivo de desarrollar mejores prácticas y marcos de riesgo para promover la adopción segura de capacidades de IA dentro del ámbito de la seguridad nacional y la industria de defensa. Al aprovechar la IA, el aprendizaje automático y el aprendizaje profundo, las agencias de ciberseguridad pueden identificar y frustrar de manera más efectiva actividades maliciosas.
A medida que la IA continúa evolucionando, es crucial que tanto los expertos en seguridad como los desarrolladores de IA reconozcan las implicaciones y mejoren continuamente las salvaguardias contra las amenazas cibernéticas habilitadas por la IA.
The source of the article is from the blog trebujena.net