Искусственный интеллект (ИИ) прошел существенное развитие в американской юридической системе, трансформируя способы ведения уголовных расследований полицией и прокурорами. Глобальный рынок юридического ИИ должен достичь $37,9 миллиарда к 2027 году, с ежегодным темпом роста в 37,8%. Этот рост обусловлен увеличением использования инструментов, работающих на базе ИИ, для юридических исследований, анализа контрактов и управления делами (источник: Grand View Research).
Тем не менее, недостаток прозрачности в реализации ИИ представляет собой вызов для ответчиков. Использование ИИ часто происходит без их ведома или проверки, что приводит к информационному разрыву. Они сталкиваются с трудностями в опротестовании использования против них инструментов ИИ и в понимании последствий их применения.
Ребекка Уэкслер, профессор права в Университете Калифорнии в Беркли, высказала опасения о непрозрачной природе использования ИИ в юридической системе. Судьи и адвокаты защиты часто не располагают ключевой информацией о применении инструментов ИИ, что создает дисбаланс знаний, неблагоприятный для ответчиков.
Инструменты ИИ и машинного обучения стали неотъемлемыми частями различных аспектов уголовной юстиции, включая распознавание лиц, анализ ДНК и прогнозирование преступлений. Однако эти инструменты часто считаются коммерческой тайной, что затрудняет их общественный контроль и способствует так называемому «эффекту черного ящика». Отсутствие четких руководящих принципов относительно использования и раскрытия инструментов ИИ дополнительно усугубляет эти проблемы.
Одной из проблем является предвзятость, проявляемая инструментами ИИ, особенно в технологии распознавания лиц. Множество исследований показали, что эти инструменты часто неправильно определяют личностей цвета из-за обучения на лицах, преимущественно белого цвета. Это вызывает серьезные вопросы о справедливости и точности в уголовной юстиции.
Учитывая эти проблемы, калифорнийский представитель Марк Такано (Демократы) представил законопроект с целью усиления тестирования и прозрачности в уголовной юстиции. Предлагаемый законопроект направлен на решение проблемы использования
непрозрачных технологий, не имеющих отчетности, и на содействие большему осведомленности и надзору.
Недостаток прозрачности в технологиях ИИ поставляет перед ответчиками фундаментальные вопросы. Когда ключевые свидетели и доказательства скрыты как коммерческая тайна, принципы справедливости подрываются.
Часто задаваемые вопросы (FAQ):
Что такое искусственный интеллект (ИИ)?
Искусственный интеллект означает развитие машин, способных учиться на опыте и имитировать человеческий интеллект в предсказании результатов.
Почему прозрачность в использовании ИИ в юридической системе важна?
Прозрачность обеспечивает ответчикам возможность опротестовать использование против них инструментов ИИ и понять их влияние на их дело. Она также способствует ответственности и помогает избежать потенциальных предвзятостей и ошибок.
В чём заключается проблема с ИИ для распознавания лиц?
Системы распознавания лиц показали предвзятость и высокие уровни ошибок, особенно при работе с изображениями чернокожих людей. Это вызывает беспокойство о справедливости и точности в идентификации людей.
Какие законопроекты были предложены для решения этих проблем?
Марк Такано представил законопроект, направленный на тестирование и прозрачность в уголовной юстиции, справляясь с вызовами, стоящими перед черными ящиками технологий и необходимостью отчетности в использовании ИИ.
Источники:
— The Hill (URL: thehill.com)
The source of the article is from the blog mivalle.net.ar