Os avanços rápidos em inteligência artificial (IA) estão elevando os custos computacionais para treinar modelos de IA. À medida que o setor financeiro se prepara para a próxima conferência de Tecnologia Financeira em 11 de junho, há cada vez mais foco na utilização eficiente da IA generativa em ambientes bancários. A conferência abrirá discussões sobre o desenvolvimento de estratégias para mitigar esses custos crescentes.
O relatório do Índice de IA da Universidade de Stanford, produzido em colaboração com a Epoch AI, destaca o exagero dos custos de treinamento de modelos de IA modernos com base nas taxas de computação em nuvem. O relatório considera a duração do treinamento, a taxa de utilização do hardware e o valor do hardware de treinamento, fornecendo uma visão abrangente dos custos atuais.
As descobertas da análise revelam que no ano passado, o custo de treinamento do modelo GPT-4 da OpenAI atingiu US$ 78,4 milhões, indicando um salto significativo em relação ao modelo PaLM (540B) do Google, que custou US$ 12,4 milhões apenas um ano antes. Para uma perspectiva histórica, o custo de treinamento do modelo Transformer, desenvolvido em 2017 e ainda influente em muitas arquiteturas de IA, foi de meros US$ 930.
Enquanto isso, o mais recente modelo de IA do Google, Gemini Ultra, teve um preço de US$ 191 milhões, ultrapassando o GPT-4 em vários requisitos desde o início de 2024, especialmente no benchmark Massive Multitask Language Understanding (MMLU), que avalia o conhecimento e a resolução de problemas em 57 áreas.
Para lidar com o desafio dos custos proibitivos, as empresas de IA estão explorando várias soluções. Há uma mudança em direção à criação de modelos menores projetados para tarefas específicas e experimentação na geração de dados sintéticos proprietários para alimentar sistemas de IA. Embora tenha havido alguns contratempos com dados sintéticos levando a saídas incompreensíveis em certas solicitações, o impulso para inovar permanece forte, evidenciado pela exploração contínua revelada nas discussões da conferência iminente.
Fatos adicionais relevantes:
A IA no setor financeiro não está avançando apenas em termos de modelos generativos, mas também por meio de outras aplicações como detecção de fraudes, consultores automatizados e serviço ao cliente personalizado por meio de chatbots. Enquanto os modelos generativos podem criar dados textuais ou numéricos, eles também podem ajudar na simulação de cenários financeiros ou na automação do processo de geração de relatórios. As instituições financeiras estão investindo em IA para obter uma vantagem competitiva, oferecer uma experiência aprimorada ao cliente e operar de forma mais eficiente.
O setor financeiro deve cumprir regulamentações rigorosas, o que tem implicações para a implantação da IA, incluindo garantir privacidade, justiça e transparência nas decisões impulsionadas pela IA. Isso cria camadas adicionais de complexidade e custo, pois os sistemas de IA no setor financeiro precisam incorporar estruturas complexas de conformidade regulatória.
Perguntas e respostas importantes:
– Quais são os principais impulsionadores por trás dos custos crescentes da IA? Os principais impulsionadores incluem a crescente complexidade dos modelos, as vastas quantidades de dados necessários para o treinamento e a potência computacional necessária para processar esses dados.
– Como o setor financeiro está respondendo aos desafios de custo? O setor financeiro está respondendo explorando modelos de IA mais econômicos, gerando dados sintéticos proprietários e se concentrando em aplicações de IA específicas para tarefas.
Desafios principais e controvérsias:
– Um dos principais desafios está no equilíbrio entre desempenho do modelo e custo. Enquanto modelos maiores tendem a ser mais poderosos, também são mais caros de treinar e manter.
– Há uma controvérsia em torno de vieses e preocupações éticas em aplicações de IA no setor financeiro, onde decisões tomadas pela IA poderiam impactar significativamente o bem-estar financeiro dos clientes.
– O uso de dados sintéticos gera preocupações sobre a precisão e confiabilidade das saídas de IA, bem como possíveis consequências inesperadas de decisões baseadas em dados que não representam situações do mundo real.
Vantagens e desvantagens:
– Vantagens: A IA pode processar e analisar grandes conjuntos de dados mais rapidamente do que os humanos, potencialmente levando a decisões mais informadas e oportunas no setor financeiro. Além disso, a IA pode automatizar tarefas rotineiras, economizando tempo e recursos.
– Desvantagens: Além dos custos crescentes, os sistemas de IA também podem perpetuar e ampliar vieses existentes. A dependência da IA poderia levar a uma redução na transparência nos processos de tomada de decisão e a uma potencial perda de empregos.
Links relacionados sugeridos:
– Universidade de Stanford
– OpenAI
– Google
Em conclusão, enquanto os custos crescentes associados ao treinamento de modelos de IA poderosos representam um desafio significativo para o setor financeiro, os benefícios potenciais dessas tecnologias impulsionam a inovação e experimentação contínuas. A conferência de Tecnologia Financeira provavelmente servirá como uma plataforma fundamental para discutir estratégias para gerenciar esses custos enquanto se aproveita das vantagens que a IA generativa oferece ao setor.