TikTok Melhora Medidas para Rotular Conteúdo Gerado por Inteligência Artificial
No intuito de fortalecer a integridade do conteúdo digital, o TikTok planeja rotular imagens e vídeos criados com inteligência artificial (IA) utilizando marcas d’água digitais, uma medida que visa a transparência. Esta iniciativa surge em meio a preocupações de especialistas sobre o potencial uso de conteúdo gerado por IA para perturbar as eleições nos Estados Unidos.
Reconhecendo essas preocupações, o TikTok ampliará a rotulagem de material gerado por IA além do que é criado pelas ferramentas do próprio aplicativo para incluir conteúdo gerado externamente. Adam Presser, responsável pelas operações e segurança confiável no TikTok, afirmou o compromisso da empresa em remover qualquer conteúdo realista gerado por IA encontrado na plataforma sem a devida rotulagem, visto que isso viola as diretrizes da comunidade.
A tecnologia de marca d’água, chamada Credenciais de Conteúdo, provém da Coalizão pela Procedência e Autenticidade de Conteúdos, apoiada por grandes jogadores do setor como a Adobe e a Microsoft. A OpenAI, a criadora por trás do sistema de IA ChatGPT, utiliza esse padrão, assim como outras gigantes da tecnologia—YouTube e a empresa-mãe do Instagram e Facebook, Meta Platforms, que também expressaram intenções de empregar credenciais de conteúdo.
Para que o sistema entre em vigor, os criadores de ferramentas de IA e as plataformas compartilhadoras devem concordar em utilizar o padrão da indústria. Por exemplo, a ferramenta de criação de imagens da OpenAI, o Dall-E, adiciona marcas d’água digitais e metadados às imagens que gera. Quando essas imagens são carregadas no TikTok, a plataforma automaticamente as classifica como geradas por IA.
O TikTok, pertencente à empresa chinesa ByteDance e enfrentando possível desinvestimento devido a uma nova legislação nos EUA, está contestando o assunto nos tribunais, citando os direitos da Primeira Emenda.
Perguntas e Respostas Importantes:
Como pretende o TikTok utilizar marcas d’água digitais?
O TikTok planeja rotular imagens e vídeos criados com IA utilizando marcas d’água digitais. Isso se aplica tanto ao conteúdo gerado internamente pelas ferramentas do TikTok quanto ao conteúdo criado em outros lugares, mas compartilhado no TikTok.
O que são as Credenciais de Conteúdo?
As Credenciais de Conteúdo fazem parte de uma tecnologia de marca d’água originada da Coalizão pela Procedência e Autenticidade de Conteúdos. Elas são usadas para certificar as origens e integridade do conteúdo digital.
O que é a Coalizão pela Procedência e Autenticidade de Conteúdos?
A Coalizão pela Procedência e Autenticidade de Conteúdos é uma iniciativa apoiada por grandes jogadores do setor como a Adobe e a Microsoft, focada em estabelecer padrões de procedência de conteúdos para combater a desinformação.
Por que a iniciativa do TikTok é significativa?
A iniciativa do TikTok é significativa, pois reflete um passo rumo a uma maior transparência no âmbito digital, em meio a crescentes preocupações sobre o potencial do conteúdo gerado por IA ser usado em campanhas de desinformação, especialmente em contextos sensíveis como eleições nos EUA.
Principais Desafios ou Controvérsias:
Um dos principais desafios é alcançar a adoção ampla pela indústria do padrão das Credenciais de Conteúdo, especialmente entre diversos criadores de ferramentas de IA e plataformas compartilhadoras. Além disso, a aplicação adequada da rotulagem do conteúdo gerado por IA pode ser tecnicamente complicada. Adicionalmente, existem controvérsias em torno da propriedade do TikTok pela empresa chinesa ByteDance e das discussões nos EUA sobre possíveis riscos à segurança, que estão levando a um debate sobre um possível desinvestimento.
Vantagens e Desvantagens:
Vantagens:
– Maior transparência para os consumidores, que podem identificar melhor o conteúdo gerado por IA.
– Ajuda a prevenir a disseminação da desinformação, especialmente em momentos críticos como períodos eleitorais.
– Estimula a responsabilidade e práticas éticas entre criadores de conteúdo e plataformas.
Desvantagens:
– Pode inadvertidamente destacar o conteúdo gerado por IA e torná-lo alvo de quem busca minar a confiança no conteúdo digital.
– A tecnologia pode não ser infalível, levando à possibilidade de tanto falsos positivos quanto negativos.
– Pode haver resistência por parte de criadores que podem encarar isso como uma violação da expressão criativa.
Links Relacionados Sugeridos:
Se você deseja explorar mais sobre o TikTok, talvez consideraria visitar o site oficial deles em TikTok. Para mais informações sobre a tecnologia por trás das Credenciais de Conteúdo e a colaboração da indústria na procedência de conteúdos, as páginas oficiais dos apoiadores da coalizão como Adobe ou Microsoft podem ser úteis. Para entender o contexto mais amplo da geração de conteúdo por IA e suas implicações, o site oficial da OpenAI pode oferecer algumas insights.