À medida que os legisladores europeus recentemente aprovaram uma legislação inovadora sobre inteligência artificial, tornando-a o conjunto de regras mais abrangente sobre IA até o momento. Enquanto outras regiões, como os Estados Unidos, ainda estão se atualizando, preocupações com possíveis ameaças à privacidade do cliente, segurança de dados e viés algorítmico permanecem. A indústria está lidando com perguntas sem respostas e o desafio de construir sistemas antes de compreender completamente os requisitos regulamentares.
No entanto, as empresas não estão esperando os reguladores dizerem como devem usar a IA. Os diretores de informática estão combinando proativamente as melhores práticas de dados do cliente com suposições para garantir a conformidade regulamentar, mantendo um diálogo aberto com os responsáveis pela formulação de políticas. Organizações como a Nationwide Mutual Insurance e a Goldman Sachs até estabeleceram suas próprias diretrizes internas e estruturas para uso de IA, levando em consideração as expectativas regulatórias futuras.
Uma consideração chave no desenvolvimento das regulamentações em IA é alcançar transparência no uso de dados do cliente para tomada de decisões em IA. Jim Fowler, CTO da Nationwide, prevê que futuras regulamentações estaduais em IA inevitavelmente exigirão padrões de transparência. Assim, a Nationwide adotou uma abordagem de “equipe azul, equipe vermelha”, onde a equipe azul explora novas oportunidades de IA, enquanto a equipe vermelha avalia preocupações potenciais, como cibersegurança, viés e conformidade regulatória.
As avaliações da equipe vermelha resultaram na formulação de princípios que alinham as soluções de IA com os parâmetros de risco estaduais previstos. As empresas entendem que as regulamentações em IA podem variar entre nações e estados, refletindo as variações existentes nas regulamentações de subscrição de seguros. Marco Argenti, CIO da Goldman Sachs, enfatiza a importância de um diálogo contínuo com os reguladores para lidar com riscos e garantir a conformidade com as preocupações de proteção de dados.
No entanto, estabelecer guardrails internos não é uma solução completa para navegar nas regulamentações futuras em IA. As empresas devem estar cientes de que os responsáveis pela formulação de políticas podem introduzir regras adicionais no futuro. O recente AI Act da Europa já estabelece regras e introduz novos requisitos de transparência, visando especificamente modelos de IA poderosos que representam um risco sistêmico. Empresas que operam globalmente certamente serão influenciadas por essa legislação para manter o acesso ao mercado europeu.
Nos Estados Unidos, uma abundância de legislação relacionada à IA está sendo apresentada, sinalizando a necessidade de uma consciência e adaptação contínuas. Empresas como a Salesforce, por meio de sua equipe de assuntos governamentais, se envolvem ativamente com responsáveis pela formulação de políticas para antecipar regulamentações futuras. No entanto, a natureza dinâmica das regulamentações em IA significa que nenhuma solução pode ser considerada permanente ou abrangente.
Enquanto algumas organizações estão envolvidas ativamente com as regulamentações em IA, outras estão adotando uma abordagem mais cautelosa. Amy Brady, CIO do KeyBank, observa que estão acompanhando de perto os desenvolvimentos e observando como as regulamentações evoluem antes de se comprometerem totalmente.
À medida que o mundo avança para uma maior integração de IA, gerenciar riscos e antecipar mudanças regulatórias se tornam primordiais. As empresas devem encontrar um equilíbrio delicado entre inovação e conformidade para garantir o uso responsável e ético da tecnologia de IA.
Perguntas Frequentes
1. Qual é o desenvolvimento recente nas regulamentações em IA na Europa?
R: Os legisladores europeus recentemente aprovaram o conjunto mais abrangente de regras e regulamentações sobre inteligência artificial, conhecido como o AI Act. Essas regras introduzem requisitos de transparência, proíbem certos usos de IA e exigem avaliações de segurança para modelos de IA poderosos considerados de risco sistêmico.
2. As empresas estão esperando que os reguladores ditem o uso de IA?
R: Não, as empresas não estão aguardando os reguladores determinarem como e quando usar IA. Muitas empresas, como Nationwide Mutual Insurance e Goldman Sachs, estabeleceram suas próprias diretrizes e estruturas para o uso de IA para antecipar regulamentações futuras e garantir conformidade regulatória.
3. Como as empresas estão lidando com preocupações sobre privacidade do cliente e segurança de dados?
R: As empresas estão abordando proativamente preocupações sobre privacidade do cliente e segurança de dados combinando as melhores práticas em torno de dados do cliente com medidas proativas. Elas também estão dialogando abertamente com os responsáveis pela formulação de políticas para garantir que suas aplicações de IA atendam aos requisitos regulatórios e abordem preocupações de proteção de dados.
4. As regulamentações em IA serão diferentes entre nações e estados?
R: Sim, as regulamentações em IA devem ser diferentes entre nações e até estados, criando complexidades para empresas que operam ferramentas de IA. Essas variações já são familiares na indústria de seguros, que enfrenta regulamentações de subscrição em níveis estaduais distintos. As empresas precisam se adaptar a essas variações garantindo os melhores resultados para seus clientes.
5. As empresas podem confiar exclusivamente em diretrizes internas para atender às futuras regulamentações?
R: Embora as diretrizes e estruturas internas sejam essenciais, elas não são uma solução definitiva para atender às futuras regulamentações em IA. As empresas devem estar cientes de que os responsáveis pela formulação de políticas podem introduzir regulamentos adicionais. O envolvimento contínuo com os reguladores e a adaptação proativa são cruciais para manter a conformidade e abordar os riscos emergentes.
