Recentemente, a administração da Escola Secundária de Laguna Beach iniciou uma investigação sobre a criação e circulação de “imagens inadequadas” de estudantes utilizando inteligência artificial (IA). Embora detalhes específicos permaneçam incertos, a escola está tomando medidas imediatas para lidar com a situação e garantir que sirva como um momento de aprendizado para os alunos sobre comportamento responsável e respeito mútuo.
O incidente na Escola Secundária de Laguna Beach não é um caso isolado. Instituições educacionais em todo o país estão lidando com o uso da tecnologia de IA tanto em contextos acadêmicos quanto sociais. O surgimento da tecnologia deepfake, que combina imagens reais com algoritmos de IA, levou à criação de imagens fraudulentas contendo corpos nus simulados.
Por exemplo, no início deste ano, cinco estudantes do oitavo ano de Beverly Hills foram expulsos por seu envolvimento na criação e compartilhamento de fotos falsas nuas de seus colegas usando a tecnologia deepfake. Essas imagens foram então distribuídas por aplicativos de mensagens. Esses incidentes destacam a necessidade urgente de discussão e ação para lidar com o potencial dano causado pela manipulação de imagens.
Vale ressaltar que imagens criadas por IA não se limitam a mirar adolescentes. Em janeiro, imagens sexualmente explícitas de Taylor Swift geradas por IA foram distribuídas nas redes sociais, gerando indignação pública e pedidos de legislação para proteger contra a criação e compartilhamento de imagens deepfake.
Legisladores em níveis federal e estadual estão começando a abordar essa questão. Vários projetos de lei foram propostos, como o Preventing Deepfakes of Intimate Images Act, que visa tornar ilegal a produção e compartilhamento de material sexualmente explícito gerado por IA sem consentimento. Além disso, o DEFIANCE Act busca fornecer às vítimas a capacidade de processar os criadores de deepfakes se o consentimento da vítima não foi obtido.
Os distritos escolares também estão abordando de forma proativa os desafios colocados pela tecnologia de IA. O Departamento de Educação do Condado de Orange, por exemplo, iniciou reuniões mensais com os distritos escolares para discutir o uso de IA e explorar maneiras de integrá-la de forma eficaz no sistema educacional.
No entanto, especialistas alertam que o problema da manipulação de imagens está se tornando mais pronunciado à medida que a tecnologia de IA se torna cada vez mais prevalente e mais fácil de usar. A combinação de IA e plataformas de mídia social, amplamente utilizadas por adolescentes, cria um cenário complexo e desafiador. A falsa sensação de aparência e as expectativas sociais perpetuadas pelas mídias sociais podem ter impactos prejudiciais em jovens indivíduos.
Em resposta ao incidente, a Escola Secundária de Laguna Beach planeja sediar discussões em painel sobre conteúdo gerado por IA, envolvendo diversos profissionais como oficiais escolares de recursos, conselheiros, psicólogos e especialistas em mídia digital. Essas discussões visam educar os alunos sobre as implicações da tecnologia de IA e promover um ambiente positivo e de apoio no campus.
À medida que essa questão continua a evoluir, as escolas e comunidades devem trabalhar juntas para enfrentar os desafios apresentados por imagens falsas e manipuladas. Educando os alunos sobre comportamento responsável, promovendo habilidades de pensamento crítico e implementando medidas disciplinares apropriadas, podemos ajudar a combater os efeitos negativos do uso indevido impulsionado pela IA e promover um ambiente mais seguro e respeitoso para todos.
FAQ
The source of the article is from the blog procarsrl.com.ar
