A integração da inteligência artificial (IA) nas atividades diárias tornou-se progressivamente comum, simplificando tarefas desde as mais banais até as mais complexas. No entanto, o volume significativo de dados gerados por humanos em que a IA se baseia está impregnado de preconceitos, representando um risco de perpetuar preconceitos dentro desses intelectos sintéticos. A IA pode ser imparcial?
Os especialistas em grande parte concordam que o objetivo da “limpeza” é elusivo para a IA no momento. Eles argumentam que remover preconceitos artificiais da IA é semelhante a tentar remover o fermento do pão depois que ele foi assado. Esse problema é particularmente verdadeiro para a IA generativa, que se baseia em vastos recursos da internet— incluindo redes sociais, sites e conteúdo em vídeo— para criar vários tipos de conteúdo sob demanda.
A IA generativa, como a plataforma “ChatGPT”, é frequentemente mal compreendida devido às suas saídas aparentemente inteligentes. No entanto, esses programas operam fundamentalmente com base na lógica matemática, prevendo as palavras ou pixels mais prováveis em uma sequência. Apesar das capacidades avançadas da IA em previsão e geração de conteúdo, ela permanece em grande parte ignorante de seus preconceitos.
A tentativa de neutralizar os preconceitos incorporados na IA é formidável. Retreinar completamente a IA com dados imparciais é um esforço prolongado e dispendioso, exacerbado pela ausência de um conjunto de dados verdadeiramente “neutro”. Em resposta, as empresas estão se esforçando para alinhar os modelos de IA com padrões éticos desejáveis ao defini-los. Consequentemente, programas de chat automatizados deixaram de expressar emoções que não possuem e produzem resultados mais diversos.
Apesar da integração de “filtros sociais”, esses modelos se assemelham a pessoas opinativas que aprenderam a reprimir seus pensamentos controversos. É digno de nota que, mesmo com tais filtros, incidentes têm exposto as limitações das medidas de controle atuais, como no caso do programa de IA generativa “Gemini” do Google, quando recebeu solicitações que inadvertidamente misturaram imagens historicamente inadequadas.
No meio da acirrada competição, os gigantes da tecnologia aceleram incessantemente o desenvolvimento e a implementação de ferramentas assistivas baseadas em IA, enquanto pesquisadores como Sasha Lucioni, da plataforma Collaborative AI, destacam que a busca por uma solução puramente tecnológica pode ser equivocada. O foco deve estar em educar os humanos sobre essas novas ferramentas, que não possuem consciência apesar de parecerem de outra forma, e em incentivar a diversidade entre as equipes de engenharia para incorporar uma gama mais ampla de perspectivas.
Explorando o potencial da IA, algumas startups estão experimentando abordagens inovadoras. Por exemplo, “PinnAI” especializa-se em “geração aprimorada por recuperação” (RAG), estabelecendo bancos de dados de informações minuciosamente verificadas das quais as ferramentas de IA podem extrair para obter resultados confiáveis. Tais avanços sugerem um futuro em que a IA poderia discernir boas informações das ruins e avaliar as consequências do comportamento, fomentando um possível desenvolvimento na compreensão e neutralidade da IA.
A neutralidade da IA continua sendo um desafio complexo, ainda mais complicado pela realidade de que a IA é fundamentalmente uma criação humana e, portanto, herda a subjetividade humana. Uma questão-chave é a definição da neutralidade em si — o que constitui uma posição neutra pode variar consideravelmente com base em perspectivas culturais, sociais e individuais. Isso está intrinsecamente ligado à questão de quais valores a IA deve refletir, para a qual não há resposta universal.
O campo da ética em IA está ativamente tentando resolver essas questões, com o objetivo de criar estruturas e diretrizes para impulsionar o desenvolvimento ético de sistemas de IA. A importância da inclusividade e diversidade nas equipes de IA não pode ser subestimada, pois perspectivas variadas podem ajudar a mitigar o risco de criar sistemas de IA tendenciosos.
Desvantagens de uma IA tendenciosa incluem:
– Perpetuação de Estereótipos: Se a IA continuar a aprender a partir de dados tendenciosos, ela pode fortalecer os preconceitos sociais existentes.
– Tomadas de Decisão Injustas: Aplicações de IA em áreas como justiça criminal ou processos de contratação correm o risco de tomar decisões influenciadas por e que perpetuam a discriminação.
– Erosão da Confiança: Incidentes de resultados tendenciosos podem levar à desconfiança em tecnologias de IA.
Vantagens de lutar pela neutralidade da IA incluem:
– Aumento da Justiça: Uma IA neutra poderia fomentar uma maior justiça nos processos de tomada de decisão.
– Aceitação Mais Universal: Uma IA percebida como imparcial pode ser mais amplamente aceita por diferentes grupos demográficos.
– Inovação Aprimorada: Conjuntos de dados e equipes diversas podem ajudar a impulsionar a inovação, introduzindo uma ampla variedade de abordagens de resolução de problemas.
Um desafio significativo é o dilema da obtenção de dados: encontrar ou criar conjuntos de dados verdadeiramente imparciais é quase impossível devido à complexidade da cultura e história humanas. Embora abordagens inovadoras como o RAG busquem mitigar essas preocupações, não está claro quão eficazes elas serão em escala e em contextos variados.
As controvérsias neste campo frequentemente dizem respeito à responsabilidade de mitigar preconceitos e quem deve fazer cumprir padrões éticos no desenvolvimento de IA. Enquanto alguns defendem a autorregulação da indústria, outros acreditam que a intervenção governamental é necessária. Além disso, a transparência dos algoritmos de IA é um tema polêmico, com alguns advogando por IA de código aberto para facilitar um amplo escrutínio, enquanto outros alertam sobre os riscos de mau uso.
Para aqueles interessados em explorar mais esse tema e se manterem atualizados sobre o desenvolvimento e ética em IA, aqui estão alguns links principais sugeridos:
– Conferência de Ética em IA
– DeepMind
– OpenAI
– Parceria em IA
Cada um desses domínios representa organizações ou empresas envolvidas ativamente na pesquisa de IA e discussões sobre ética e neutralidade.
The source of the article is from the blog karacasanime.com.ve