A Inteligência Artificial (IA) tornou-se uma espada de dois gumes no campo da segurança da tecnologia da informação. Mesmo antes do lançamento do ChatGPT da OpenAI ao público em novembro de 2020, a IA já era um elemento crítico em produtos de cibersegurança, frequentemente enaltecida com palavras da moda como “GenAI” (Inteligência Geradora) ou “ML” (Aprendizado de Máquina). No entanto, os cibercriminosos não têm ficado parados. Eles estão cada vez mais empregando técnicas de IA para aprimorar suas estratégias e criar ciberataques avançados.
Empresas de segurança testemunham um aumento no uso não autorizado de IA, incluindo o desenvolvimento de Modelos de Linguagem de Grande Escala (LLMs) ilícitos que operam sem as restrições éticas de plataformas como o ChatGPT, facilitando a geração de spam e outras atividades maliciosas. Segundo a Trend Micro, grupos cibernéticos tentaram desenvolver seus próprios LLMs, mas mudaram o foco para “desbloquear” os existentes a fim de contornar medidas de segurança. Esta atividade atingiu um ponto em que agora eles oferecem “Desbloqueio-como-Serviço”.
David Sancho, da Trend Micro, reconheceu que a exploração da IA por cibercriminosos antecedeu a última onda de entusiasmo com a IA. Ele mencionou que em fóruns underground, as discussões entre os cibercriminosos seguem de perto as tendências de mercado gerais. Além disso, chatbots existentes são frequentemente modificados através de “serviços de invólucro” para atender a intenções criminosas – exemplos incluem chatbots com nomes sombrios como FraudGPT e DarkGPT – potencialmente sendo usados para atividades fraudulentas ou roubo de identidade.
A tecnologia Deepfake representa uma das maiores ameaças, capaz de enganar a verificação de identidade com apenas um documento roubado. Essa ameaça é ecoada em um relatório da Bitdefender, que entrevistou profissionais de segurança de TI e constatou que praticamente todos consideram a evolução da IA como uma séria preocupação para suas organizações. No entanto, há uma disparidade nos níveis de confiança entre diferentes países quando se trata de distinguir deepfakes de conteúdo autêntico.
A maioria das empresas ainda não incorporou a IA em sua estratégia de cibersegurança, mas o Relatório de Segurança de IA da Hornet Security mostra uma crescente conscientização sobre os perigos da IA. Cerca de 75% dos entrevistados pela Hornet Security acreditam que a IA se tornará mais significativa na cibersegurança nos próximos cinco anos, com um terço esperando uma melhoria em suas táticas de segurança.
O uso de ferramentas habilitadas por IA está se expandindo para áreas como resposta a incidentes e defesa contra malware, sugerindo um cenário digital melhor protegido no futuro. Embora haja relutância em acreditar que a IA reduzirá significativamente o trabalho manual para a equipe de segurança, muitos concordam que a IA pode ajudar a preencher lacunas de pessoal e aprimorar as capacidades existentes – especialmente em setores com alta demanda por expertise em segurança da TI. Ciberataques direcionados por IA, como bots que manipulam reservas online para obter lucro, ilustram as ameaças sofisticadas para as quais as organizações devem se preparar.
A crescente proeminência da IA em cibersegurança é fundamental para compreender o cenário em evolução das ameaças digitais globais. Aqui estão fatos adicionais, perguntas, respostas, discussões sobre desafios e controvérsias-chave, e a avaliação das vantagens e desvantagens associadas a “A Ameaça Crescente da IA na Cibersegurança”.
Deteção de Ameaças Impulsionada por IA: Tecnologias de IA como ML podem analisar conjuntos de dados grandes de forma mais eficiente do que os humanos, permitindo a detecção de ameaças cibernéticas sofisticadas ao reconhecer padrões que poderiam passar despercebidos pelos analistas humanos.
Ciberataques Adaptativos: À medida que as tecnologias de IA avançam, também avança a adaptabilidade dos ciberataques. Por exemplo, adversários podem usar a IA para ajustar dinamicamente e-mails de phishing para se tornarem mais convincentes com base nas respostas do alvo ou para encontrar e explorar vulnerabilidades nos sistemas muito mais rapidamente do que antes.
Carga de Trabalho dos Profissionais de Segurança: Embora a IA possa automatizar algumas tarefas de cibersegurança, essa tecnologia também pode criar mais trabalho para os profissionais de segurança, gerando falsos positivos que exigem revisão manual. Esse alto volume de alertas pode levar à fadiga de alertas.
Controvérsias e Desafios Principais: Um dos temas controversos na IA para cibersegurança inclui as implicações éticas das estratégias defensivas e ofensivas de IA. Com o potencial para a IA conduzir operações cibernéticas ofensivas, discussões éticas são necessárias para delinear o uso responsável das tecnologias de IA nos esforços de cibersegurança governamentais e do setor privado.
Vantagens:
– A automação de tarefas repetitivas pode melhorar a eficiência nas práticas de cibersegurança.
– A IA pode aprimorar as capacidades de detecção de ameaças ao analisar rapidamente grandes quantidades de dados.
– A IA pode ajudar a enfrentar a lacuna de habilidades em cibersegurança ao apoiar os profissionais sobrecarregados de segurança.
Desvantagens:
– Desenvolver e implementar soluções de segurança eficazes baseadas em IA requer recursos e expertise significativos.
– Sistemas de defesa cibernética de IA podem ser manipulados ou contornados por adversários sofisticados.
– A democratização da IA pode permitir que atores maliciosos empreguem a IA para atividades prejudiciais.
Perguntas Mais Importantes:
1. Como podemos garantir que a tecnologia de IA permaneça nas mãos de partes responsáveis?
2. Que estruturas éticas irão guiar o uso da IA em operações cibernéticas ofensivas e defensivas?
3. Como a IA impactará o panorama futuro de empregos para profissionais de cibersegurança?
Respostas:
1. Através de acordos internacionais robustos, regulamentos e diretrizes éticas, juntamente com medidas avançadas de cibersegurança para proteger as tecnologias de IA contra acesso não autorizado.
2. Governos, organizações e a comunidade de cibersegurança devem colaborar para estabelecer diretrizes éticas que regulem o uso da IA em operações de cibersegurança.
3. Enquanto a IA automatizará certas tarefas dentro da cibersegurança, ela provavelmente também criará novos papéis focados no desenvolvimento, manutenção e supervisão de sistemas de IA.
Para aqueles interessados em explorar ainda mais o papel da IA na cibersegurança de uma perspectiva mais ampla, os recursos a seguir podem ser úteis:
OpenAI
Trend Micro
Bitdefender
Hornet Security
Os links acima levam aos domínios principais das respectivas organizações mencionadas no artigo, garantindo que os usuários possam explorar o tópico de forma mais aprofundada a partir de contribuições confiáveis e significativas para a comunidade de cibersegurança.
The source of the article is from the blog anexartiti.gr