À medida que a inteligência artificial evolui rapidamente, empresas como a Salesforce destacam a importância das considerações éticas ao integrar a IA no local de trabalho. Em vez de a IA funcionar autonomamente, ela deve atuar como auxiliar de apoio às decisões humanas. Em uma recente conferência sobre IA em Londres, Paula Goldman, diretora de ética e uso humano da Salesforce, compartilhou informações sobre a necessidade de clareza e controle nos sistemas de IA.
Goldman expressou preocupações sobre o potencial da IA de perpetuar inadvertidamente preconceitos e criar conteúdo enganoso, como deepfakes. Ela destacou o delicado equilíbrio necessário para manter a confiança e o progresso na inteligência artificial, sugerindo que sem uma aplicação ética, “invernos da IA” – períodos de diminuição do entusiasmo e do investimento – poderiam ocorrer devido a déficits de confiança.
Para combater esses desafios, a Salesforce tomou medidas proativas incorporando mecanismos de supervisão intencional que denominam “fricção consciente”. Isso envolve uma mistura cuidadosa de automação e discernimento humano para garantir que os sistemas de IA evitem perpetuar preconceitos existentes e respeitem os limites legais. Por exemplo, as ferramentas de marketing da Salesforce usam IA para propor segmentos demográficos para campanhas por e-mail, mas, em última instância, os humanos fazem as seleções finais para garantir a imparcialidade.
A empresa também trabalha para incorporar alertas e detecção de anomalias dentro das plataformas de IA quando dados, como códigos postais, podem refletir inadvertidamente disparidades raciais ou socioeconômicas. Dessa forma, eles estão progressivamente direcionando os sistemas para fazer com que os operadores humanos reavaliem as sugestões da IA e apliquem resultados éticos.
Goldman defende a ideia de que o uso confiável da IA reside na forma como os produtos são projetados para indicar quando o julgamento humano é fundamental. Ela imagina um futuro onde as capacidades da IA são aproveitadas para amplificar a expertise humana e manter padrões éticos, marcando uma nova era de desenvolvimento de IA que é inovadora e fundamentada em princípios.
Tendências do Mercado Atual:
O mercado global de IA testemunhou um crescimento significativo e está projetado para continuar se expandindo a uma taxa de crescimento anual composta (CAGR) de aproximadamente 20-30% nos próximos anos, com setores-chave como saúde, finanças, varejo e manufatura adotando ativamente tecnologias de IA. À medida que as empresas dependem mais da IA para tomar decisões críticas, as considerações éticas sobre a IA se tornam cada vez mais relevantes. Muitas empresas, semelhantes à Salesforce, estão investindo em IA responsável para minimizar riscos como preconceito, falta de transparência e responsabilidade.
Previsões:
A tendência de incorporar práticas éticas de IA deve ganhar força à medida que regulamentações como o proposto Ato de Inteligência Artificial da União Europeia entrarem em vigor, enfatizando a conformidade com padrões éticos. Essa legislação poderia estabelecer um precedente mundialmente e incentivar as empresas a priorizarem o desenvolvimento ético da IA. Como resultado, a ética da IA como disciplina está prevista para se tornar fundamental não apenas do ponto de vista da conformidade, mas também como uma vantagem competitiva.
Principais Desafios e Controvérsias:
A adoção de práticas éticas de IA apresenta vários desafios. Há um debate em andamento sobre a melhor forma de definir e aplicar a ética na IA: o que constitui viés? Quem deve ser responsável pelas decisões da IA? Além disso, a transparência nos algoritmos de IA permanece controversa, já que as empresas lidam com a proteção da tecnologia proprietária ao mesmo tempo em que promovem padrões éticos. Além disso, alcançar a diversidade nas equipes de desenvolvimento de IA é uma preocupação contínua para garantir que diversas perspectivas moldem a tecnologia.
Vantagens:
A abordagem de parceria entre humanos e IA para os negócios oferece várias vantagens:
– Ela complementa a inteligência humana com as capacidades da IA, potencialmente levando a tomadas de decisão mais informadas.
– O esforço combinado pode reduzir erros humanos e viés de IA, promovendo um uso mais justo e equitativo da tecnologia.
– Ao aplicar padrões éticos, as empresas podem construir confiança com seus clientes e partes interessadas, promovendo fidelidade e sucesso a longo prazo.
Desvantagens:
Por outro lado:
– A implementação de estruturas éticas de IA pode ser complexa e onerosa, o que pode dissuadir algumas organizações.
– Pode atrasar o processo de tomada de decisão, pois a supervisão humana é necessária para monitorar as saídas da IA.
– Interpretações conflitantes do que significa IA ética podem levar a práticas inconsistentes em diferentes setores.
Para aqueles interessados em explorar mais o contexto amplo da IA no mercado, consulte as seguintes fontes confiáveis:
– IBM Watson
– DeepMind
– OpenAI
The source of the article is from the blog hashtagsroom.com