A introdução do Google de um recurso baseado em IA projetado para identificar golpes em chamadas de voz provocou um debate entre defensores da privacidade e da segurança. O recurso, apresentado no evento I/O do Google, destina-se a ser integrado em futuros sistemas Android, potencialmente afetando a grande maioria dos smartphones globalmente.
Ao ser executada no dispositivo, a tecnologia de IA do Google, Gemini Nano, representa um passo em direção à verificação do lado do cliente, um tema polêmico nos círculos tecnológicos. Historicamente, a menção da verificação do lado do cliente nos faz lembrar o acalorado debate sobre a detecção de exploração infantil e monitoramento de conversas, que levou a Apple a retirar um plano semelhante em 2021 devido a protestos sobre privacidade.
Apesar das preocupações com privacidade, há pressão dos legisladores para que as empresas de tecnologia policiem proativamente suas plataformas em busca de atividades ilícitas. Essa tendência de incorporar a verificação diretamente nos dispositivos poderia inadvertidamente estabelecer um precedente para a monitorização generalizada de conteúdo, incluindo aquela exercida por governos ou impulsionada por interesses comerciais.
Críticos, como a presidente do Signal, Meredith Whittaker, alertam que a implementação de tal tecnologia poderia facilitar a transição para formas invasivas de vigilância, potencialmente interferindo em questões sensíveis como direitos reprodutivos e proteção de denunciantes. O professor da Universidade Johns Hopkins e especialista em criptografia Matthew Green ecoa esse sentimento, sugerindo um futuro iminente onde a censura de IA se torne rotineira. Ele insinua um cenário onde os dados só passem pelos provedores de serviços após a confirmação de que a verificação ocorreu, potencialmente obstruindo dispositivos não conformes.
Lukasz Olejnik, consultor em privacidade e segurança, elogiou a luta contra golpes, mas alertou sobre os perigos de reutilizar essa tecnologia para escrutínio social. Ele suscitou reflexões sobre a tecnologia ditar comportamento social e infringir liberdades fundamentais. Michael Veale da UCL ampliou ainda mais esses temores, indicando como essa tecnologia poderia ser explorada pelo governo.
Enquanto a Europa lida com propostas legislativas polêmicas sobre a verificação de mensagens e o direito à privacidade, o novo recurso do Google aponta para um equilíbrio ainda a ser alcançado entre o avanço das capacidades tecnológicas e a proteção das liberdades democráticas. Enquanto isso, o Google ainda não abordou oficialmente essas crescentes preocupações com a privacidade.
The source of the article is from the blog foodnext.nl