Em uma iniciativa para lidar com o crescente uso da tecnologia de inteligência artificial (IA), a cidade de San Francisco divulgou diretrizes preliminares que orientam os funcionários da cidade a verificar os dados gerados por IA e divulgar o uso dessa tecnologia. As diretrizes enfatizam a importância do uso responsável de IA e alertam contra a inserção de informações sensíveis em ferramentas públicas de IA que podem ser acessadas por empresas e pelo público em geral.
As diretrizes destacam os potenciais benefícios da IA em tarefas como redação de e-mails, ajuste de formalidade na escrita e automação de tarefas repetitivas. No entanto, elas também reconhecem os preconceitos inerentes que os sistemas de IA podem refletir com base em seus dados de treinamento, enfatizando a necessidade de cautela.
Essas diretrizes surgem após o incentivo do estado de Nova York ao uso de ferramentas de IA pelos funcionários e o lançamento de um programa piloto pelo estado da Pensilvânia para que os funcionários do governo estadual utilizem o ChatGPT. As diretrizes de San Francisco se baseiam em planos de IA existentes, incluindo os implementados por San Jose, Boston, o estado da Califórnia, a Casa Branca e o Reino Unido.
Enquanto alguns especialistas acreditam que essas diretrizes são um passo na direção certa, outros argumentam que é preciso mais clareza e treinamento formal para que os funcionários da cidade possam utilizar a IA de forma eficaz. Kevin Frazier, professor de direito que estuda a legislação e regulamentação da IA, sugere que a cidade considere proibir o uso de ferramentas de IA gerativas que não tenham sido avaliadas por especialistas independentes.
Os próximos passos para o desenvolvimento dessas diretrizes incluem a realização de uma pesquisa abrangente sobre o uso de IA nos departamentos da cidade, a criação de uma comunidade de usuários e a consulta a especialistas em IA. Resta saber como essas diretrizes irão evoluir para lidar com os desafios e oportunidades apresentados pela tecnologia de IA nas funções públicas.
The source of the article is from the blog japan-pc.jp