A OpenAI, criadora do programa de inteligência artificial conversacional conhecido como ChatGPT, identificou que várias organizações sediadas na Rússia, China e em outras regiões estão supostamente utilizando IA com o intuito de influenciar a opinião pública.
Esses grupos, que preferem manter suas identidades em sigilo, têm empregado textos gerados por IA e criação de perfis em redes sociais, bem como utilizando IA para tarefas de programação. Em suas operações, têm se concentrado em questões geopolíticas sensíveis, incluindo a invasão russa da Ucrânia, conflitos em Gaza e política americana.
Entre eles, uma organização sediada na China tem sido especialmente ativa, gerando conteúdo que critica a polêmica liberação de água tratada da usina nuclear de Fukushima Daiichi, no Japão. A operação também se estendeu a postagens em língua japonesa online. No entanto, relatos indicam que essas mensagens criadas por IA não obtiveram um público significativo nas plataformas de mídia social.
Além disso, a OpenAI revelou que houve casos em que tentativas de gerar imagens propagandísticas por meio de ferramentas de IA foram recusadas pelo software, destacando as salvaguardas éticas existentes para evitar o uso indevido. A OpenAI divulgou um relatório detalhando essas ameaças no mesmo dia em que as descobertas foram anunciadas, enfatizando a importância de monitorar e regular o uso da IA para prevenir tais práticas manipulativas.
Importância e Relevância da IA na Manipulação da Opinião Pública:
O uso da IA na manipulação da opinião pública é uma preocupação significativa, pois pode influenciar eleições políticas, mudar o sentimento público sobre questões-chave e até incitar conflitos entre diferentes grupos. Ferramentas de inteligência artificial, como aquelas desenvolvidas para criar deepfakes ou escrever textos persuasivos, podem disseminar desinformação em grande escala e com uma velocidade que ultrapassa em muito as capacidades humanas.
Principais Perguntas e Respostas:
– Quais meios as organizações empregam para manipular a opinião pública com IA?
As organizações usam IA para gerar texto persuasivo, fabricar imagens ou vídeos realistas (deepfakes), criar perfis falsos em redes sociais e automatizar a disseminação de desinformação.
– Como a OpenAI impede que suas ferramentas sejam usadas para propaganda?
A OpenAI implementa salvaguardas éticas e mecanismos de supervisão que podem detectar e evitar que o software gere conteúdo destinado à propaganda ou desinformação.
– Quais desafios estão associados à regulamentação do uso da IA para manipulação?
A proliferação de ferramentas e tecnologias de IA além das fronteiras internacionais torna desafiador fazer cumprir regulamentos. Além disso, as capacidades em evolução da IA podem superar o estabelecimento de estruturas eficazes de governança.
Principais Desafios e Controvérsias:
Os principais desafios em lidar com o uso da IA para manipulação da opinião pública incluem identificar e atribuir atividades maliciosas a atores específicos, visto que muitos ocultam suas identidades ou operam do exterior. Além disso, há um debate em curso sobre o equilíbrio entre a liberdade de expressão e a necessidade de conter informações falsas, bem como o papel das empresas de tecnologia versus a autoridade estatal na regulamentação de conteúdo.
Vantagens da AI:
– Permite processamento e análise eficientes de dados para entender as tendências de opinião pública.
– Facilita a disseminação rápida de informações para notícias legítimas ou alertas de emergência.
Desvantagens da AI:
– A IA pode ser usada para amplificar narrativas falsas e criar campanhas sofisticadas de desinformação.
– Levanta preocupações sobre a erosão da confiança nos meios de comunicação e instituições democráticas.
Esforços Regulatórios e Considerações Éticas:
Os avanços na IA têm provocado discussões sobre o uso ético e medidas regulatórias para evitar seu uso indevido no cenário político. Organizações e governos em todo o mundo estão agora mais conscientes e trabalhando cada vez mais no desenvolvimento de políticas para enfrentar os desafios éticos apresentados pela IA.
Se você deseja ler mais sobre as implicações da IA e seu impacto na sociedade como um todo, pode explorar os seguintes links:
– OpenAI
– Cooperação Digital das Nações Unidas
– Organização Mundial da Saúde (para questões relacionadas à IA na saúde)
The source of the article is from the blog klikeri.rs