A Meta Platforms, empresa-mãe do Facebook e do Instagram, anunciou planos para detectar e rotular imagens geradas por serviços de inteligência artificial (IA) fornecidos por outras empresas. A empresa pretende utilizar marcadores invisíveis embutidos nos arquivos de imagem para distinguir entre fotografias reais e conteúdo criado digitalmente. Esse sistema de rotulagem será aplicado a qualquer conteúdo que carregue os marcadores e seja compartilhado nas plataformas da Meta.
A introdução desse sistema de rotulagem é um esforço para enfrentar o problema generalizado de conteúdo enganoso e falso produzido por tecnologias geradoras de IA. Essas tecnologias têm a capacidade de criar imagens realistas em resposta a comandos simples, levantando preocupações sobre os possíveis danos associados ao seu uso indevido. A iniciativa de rotulagem da Meta faz parte de um movimento maior dentro da indústria de tecnologia para estabelecer padrões e mitigar os impactos negativos da IA geradora.
Nick Clegg, presidente de assuntos globais da Meta, expressou confiança na capacidade da empresa de rotular imagens geradas por IA de forma confiável. No entanto, ele reconheceu a complexidade de desenvolver ferramentas semelhantes para conteúdo de áudio e vídeo. Embora a tecnologia para marcar áudio e vídeo ainda não esteja totalmente madura, a Meta planeja exigir que as pessoas rotulem seu próprio conteúdo de áudio e vídeo alterado, com penalidades para o não cumprimento.
Vale ressaltar que a iniciativa de rotulagem da Meta atualmente não se estende a textos escritos gerados por ferramentas de IA, como o ChatGPT. Clegg afirmou que atualmente não há um mecanismo viável para rotular esse tipo de conteúdo. Além disso, ainda não está claro se a Meta aplicará rótulos a conteúdos de IA gerados compartilhados em seu serviço de mensagens criptografadas, o WhatsApp.
A recente fiscalização enfrentada pela política da Meta em relação a vídeos falsificados enganosos por seu conselho independente de supervisão levou Clegg a reconhecer a necessidade de medidas aprimoradas. O conselho recomendou a rotulagem em vez da remoção desse tipo de conteúdo. Clegg concordou com a avaliação do conselho, afirmando que a política existente da Meta não é mais adequada diante da presença crescente de conteúdo sintético e híbrido. Ao estabelecer uma parceria de rotulagem com outras empresas de tecnologia, a Meta pretende demonstrar seu compromisso em lidar com essas preocupações.
Em conclusão, a decisão da Meta Platforms de rotular imagens geradas por IA marca um passo importante para combater a desinformação e aumentar a transparência em suas plataformas. À medida que a indústria de tecnologia continua lidando com os desafios impostos pelas tecnologias geradoras de IA, esforços colaborativos, como essa iniciativa de rotulagem, tornam-se cruciais para moldar o uso responsável da IA.
Seção de Perguntas Frequentes:
The source of the article is from the blog kewauneecomet.com