Поскольку искусственный интеллект (AI) продолжает стремительно развиваться, его присутствие в различных секторах, включая правительство, становится все более распространенным. Канадское правительство приняло AI в различных ведомствах и агентствах, используя его для оптимизации процессов, улучшения принятия решений и улучшения общественных услуг. Однако недавний анализ государственных данных показал масштаб использования AI и вызвал вопросы прозрачности и ответственности.
Анализ, проведенный исследователем Сарой Редден, подчеркивает широкое использование AI в государственных органах Канады. Редден утверждает, что действующее законодательство, такое как предполагаемый Закон об искусственном интеллекте и данных, не удовлетворяет вопросам использования AI в правительственной деятельности. Хотя Закон C-27 вводит новые обязательства для «высокоэффективных» систем, особенно в сфере занятости, он оставляет значительную пустоту в отношении использования AI правительством.
Например, Министерство национальной обороны ранее экспериментировало с использованием AI для снижения предвзятости в решениях о приеме на работу. Используя платформы AI для составления краткого списка кандидатов и оценки их пригодности для конкретных ролей, министерство стремилось информировать человеческое принятие решений и способствовать справедливым практикам при приеме на работу.
Также Иммиграционная, беженская и гражданская служба Канады использует инструменты AI для сортировки и триажа заявок на временное пребывание. Эти инструменты помогают офицерам определить положительную пригодность, в конечном итоге ускоряя процесс подачи заявок на визу. Однако важно отметить, что окончательное принятие решений все еще зависит от человеческого суждения, поскольку системы AI не могут рекомендовать отказы.
В то время как некоторые эксперименты с использованием AI, например, использование королевским Канадским Флотом голосового технологического средства для передачи команд на корабли, добились успеха, вопросы безопасности должны быть решены перед полным интегрированием. Аналогично другие ведомства, такие как Министерство здравоохранения Канады, используют AI в целевых областях. Например, ведомство использует инструмент слежения в социальных сетях с элементами простейшего искусственного интеллекта для мониторинга онлайн-новостей о инцидентах с потребительской продукцией.
В юридической сфере Канадское агентство по доходам вводит систему AI, предсказывающую потенциальные результаты судебных дел. Подавая соответствующие переменные, система анализирует исторические решения судов и предоставляет ожидаемые решения, помогая в принятии решений. Канадский институт исследований по здравоохранению также использует AI для симуляции решений по трудовым отношениям, сравнивая гипотетические сценарии с прошлыми случаями.
Более того, Управление по банкротствам использует AI для обнаружения аномалий в заявлениях о банкротстве, помогая выявлять потенциальные нарушения на основе определенных атрибутов, обнаруженных в заявлениях. Подсвеченные случаи затем рассматриваются аналитиками для дальнейшей оценки.
Канадское правительство также использует AI в правоохранительной деятельности и контроле за границей. Королевская канадская конная полиция (RCMP) применяет искусственный интеллект для определения материалов по детскому сексуальному насилию и помощи в спасении жертв. Представитель полиции подтвердил использование технологии распознавания лиц, называемой «сравнение лиц», на законно полученных внутренних данных для помощи в расследованиях. Аналогично, Канадское агентство по пограничным службам использует технологию распознавания лиц на добровольной основе для аутентификации личности въезжающих путешественников.
Хотя расширение применения AI в различных секторах правительства очевидно, возникли вопросы о прозрачности и ответственности. Редден утверждает, что правительство должно предоставить более полное представление о своей реализации AI, включая сведения о ее внедрении, текущем использовании, связанных данных и сообщенных проблемах. Хотя у правительства есть директива о автоматизированном принятии решений, которая предписывает оценку алгоритмического воздействия в случаях с значительным эффектом, в настоящее время в общедоступном реестре доступно лишь ограниченное количество записей.
Кроме того, анализ показывает несколько случаев, когда упоминались пилотные проекты, включавшие AI, но отсутствовали обновления или дополнительная информация. Например, Канадское агентство по пограничным службам упоминало разработку алгоритма для автоматического обнаружения оружия и его частей на почтовых рентгеновских снимках, в то время как Министерство иностранных дел Канады экспериментировало с AI-созданными конспектами. Однако дальнейшие детали и прогресс не были предоставлены.
Поскольку AI продолжает революционизировать операции и услуги канадского правительства, обеспечение прозрачности и ответственности играет ключевую роль. Проведенный Редден анализ проливает свет на обширные и разнообразные применения AI в органах власти. Для решения проблем и способствования доверию общественности крайне важно, чтобы правительство предоставило комплексное и доступное представление об осуществлении AI, включая регулярные обновления о пилотных проектах и их результатах.
The source of the article is from the blog macholevante.com