Meta, a empresa controladora do Facebook, Instagram e Threads, está tomando medidas para identificar e rotular imagens geradas por IA em suas plataformas. A iniciativa faz parte dos esforços da Meta para combater a decepção e responsabilizar aqueles que intencionalmente enganam os outros. Atualmente, as imagens geradas por IA da Meta já são rotuladas como tal. No entanto, em um post recente no blog, Nick Clegg, presidente de Assuntos Globais da Meta, anunciou que a empresa planeja expandir a rotulagem para imagens geradas por IA criadas em serviços concorrentes.
Enquanto as imagens de IA da Meta já contêm metadados e marcas d’água invisíveis que indicam sua origem em IA, a empresa está desenvolvendo ferramentas para detectar esses marcadores quando usados por outras organizações, como Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock. Ao identificar e rotular o conteúdo gerado por IA, a Meta pretende abordar a linha tênue entre conteúdo humano e sintético, fornecendo aos usuários transparência sobre a tecnologia por trás das imagens que encontram.
Nos próximos meses, a Meta planeja aplicar esses rótulos em todos os idiomas. A empresa reconhece a importância desse esforço, especialmente durante as importantes eleições globais que ocorrerão no próximo ano. No entanto, é importante observar que, atualmente, a rotulagem se limita a imagens, e o conteúdo de áudio e vídeo gerado por IA não inclui esses marcadores.
Além da rotulagem, a Meta pretende colocar rótulos mais proeminentes em imagens, vídeos ou áudios manipulados digitalmente que apresentem alto risco de enganar materialmente o público. Além disso, a empresa está explorando o desenvolvimento de tecnologia que possa detectar automaticamente conteúdo gerado por IA, mesmo quando esses marcadores invisíveis foram removidos ou estão ausentes.
Clegg reconheceu a natureza adversarial desse espaço e a necessidade de inovação contínua para ficar à frente daqueles que procuram enganar com conteúdo gerado por IA. Como as deepfakes de IA já fizeram uma aparição durante o ciclo eleitoral presidencial dos EUA e casos como a polêmica alteração de imagem na Austrália ocorreram, os esforços da Meta para detectar e rotular conteúdo gerado por IA são vitais para combater práticas enganosas.
Ao promover a transparência e fornecer aos usuários informações sobre a natureza do conteúdo que encontram, a Meta busca criar um ambiente digital mais seguro, onde os indivíduos possam navegar e interagir com a mídia de forma responsável.
Perguntas frequentes:
P: Quais medidas a Meta está tomando para combater a decepção em suas plataformas?
R: A Meta, empresa controladora do Facebook, Instagram e Threads, está identificando e rotulando imagens geradas por IA em suas plataformas. Isso visa abordar o problema do conteúdo enganoso e responsabilizar aqueles que intencionalmente enganam os outros.
P: As imagens geradas por IA da Meta já têm rótulos indicando sua natureza?
R: Sim, as imagens fotorealísticas geradas por IA da Meta já são rotuladas para indicar sua origem em IA.
P: A Meta expandirá a rotulagem de imagens geradas por IA para serviços concorrentes?
R: Sim, de acordo com Nick Clegg, presidente de Assuntos Globais da Meta, a empresa planeja expandir a rotulagem para imagens geradas por IA criadas em serviços concorrentes, como Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock.
P: Que marcadores são usados para indicar a origem em IA nas imagens da Meta?
R: As imagens de IA da Meta contêm metadados e marcas d’água invisíveis que indicam sua origem em IA.
P: A Meta está desenvolvendo ferramentas para detectar os marcadores de IA usados por outras organizações?
R: Sim, a Meta está desenvolvendo ferramentas para detectar os marcadores que indicam a origem em IA quando usados por outras organizações.
P: Por que a Meta está identificando e rotulando o conteúdo gerado por IA?
R: A Meta visa abordar a linha tênue entre conteúdo humano e sintético, fornecendo transparência sobre a tecnologia por trás das imagens encontradas pelos usuários.
P: A Meta aplicará esses rótulos em todos os idiomas?
R: Sim, a Meta planeja aplicar os rótulos em todos os idiomas nos próximos meses.
P: O conteúdo de áudio e vídeo gerado por IA inclui esses rótulos?
R: Não, atualmente a rotulagem se limita a imagens e não inclui conteúdo de áudio e vídeo gerado por IA.
P: Além da rotulagem, que outras medidas a Meta está tomando?
R: A Meta pretende colocar rótulos mais proeminentes em imagens, vídeos ou áudios manipulados digitalmente que apresentam alto risco de enganar materialmente o público. A empresa também está explorando o desenvolvimento de tecnologia para detectar conteúdo gerado por IA, mesmo quando os marcadores estão ausentes ou foram removidos.
P: Por que os esforços da Meta para detectar e rotular conteúdo gerado por IA são importantes?
R: Deepfakes de IA e casos de alterações controversas de imagem já ocorreram, destacando a necessidade de combater práticas enganosas. Ao detectar e rotular o conteúdo gerado por IA, a Meta busca criar um ambiente digital mais seguro.
P: Como a Meta planeja criar um ambiente digital mais seguro?
R: A Meta busca promover a transparência e fornecer aos usuários informações sobre a natureza do conteúdo que encontram, permitindo que os indivíduos naveguem e interajam com a mídia de forma responsável.
Definições:
1. Imagens geradas por IA: Imagens criadas usando inteligência artificial, onde o software de IA gera o conteúdo em vez de um ser humano.
2. Metadados: Informações descritivas sobre um arquivo, incluindo detalhes sobre sua origem, criador e conteúdo.
3. Marcas d’água invisíveis: Marcadores digitais embutidos em arquivos de mídia que podem ser usados para identificar sua origem ou rastrear uso não autorizado.
Links relacionados sugeridos:
– Meta: O site oficial da Meta, empresa controladora do Facebook, Instagram e Threads.
– Facebook Newsroom: Fornece notícias e atualizações oficiais do Facebook, subsidiária da Meta.
– Instagram Press: Oferece comunicados de imprensa oficiais e atualizações do Instagram, subsidiária da Meta.
The source of the article is from the blog maltemoney.com.br