В революционном решении суда в штате Вашингтон судья запретил использование видеозаписей, улучшенных искусственным интеллектом (ИИ) в качестве доказательств в уголовном процессе. Это решение, вероятно, является первым подобного рода в Соединенных Штатах. Судья Управления округа Кинг Лерой Маккалло, чье решение стало известно в пятницу, подчеркнул опасения относительно надежности и прозрачности технологии ИИ в правовых процессах.
Судья описал видео, улучшенное ИИ, как «новаторское» и аргументировал тем, что оно основано на закрытых методах интерпретации и представления визуальной информации. Маккалло выразил опасения относительно того, что допущение доказательств, улучшенных ИИ, может потенциально запутать присяжных и осложнить судебное разбирательство, вызвав вторичный дебат о модели ИИ, не прошедшей пэйр-ревью, используемой для создания улучшенного видео.
Дело касалось мужчины по имени Джошуа Пулока, которого обвиняют в тройном убийстве за баром в районе Сиэтла. Защита Пулоки стремилась представить видеозапись с мобильного телефона, улучшенную программным обеспечением машинного обучения, в качестве доказательства. Однако обвинение аргументировало, что не существует правовых прецедентов, разрешающих использование такой технологии в уголовных судах.
Машинное обучение, подвид ИИ, приобрело популярность в последние годы как основа многих современных систем ИИ. Оно включает использование алгоритмов, позволяющих компьютерам учиться и делать прогнозы на основе паттернов данных. Программное обеспечение, использованное для улучшения видео в этом случае, было разработано компанией Topaz Labs, базирующейся в Техасе, известной своими инструментами обработки видео, используемыми творческими профессионалами.
Решение приходит во время быстрого развития технологий ИИ, включая deepfakes (манипулированные видео или изображения). Политики как штатов, так и федерального уровня борются с потенциальными рисками, связанными с этими технологиями. Юридическое сообщество особенно обеспокоено точностью, доверительностью и потенциальным предвзятым отношением моделей ИИ, используемых для манипулирования визуальными доказательствами.
Мы собрали для вас топ пять вопросов, чтобы более ясно осветить эту тему:
Что представляло собой судебное решение в штате Вашингтон?
Суд решил против использования видео, улучшенного искусственным интеллектом, как доказательства в уголовном деле, указав на то, что закрытые методы технологии и потенциальное смятение присяжных могут подорвать судебный процесс.
Почему защита желала представить доказательства с улучшенным ИИ-видео?
Защита аргументировала, что улучшенное видео поддержит их довод о необходимости самозащиты, предоставив более четкое изображение событий, предшествующих тройному убийству.
Какие опасения высказал судья относительно доказательств, улучшенных ИИ?
Судья выразил опасения относительно отсутствия пэйр-ревью и прозрачности в модели ИИ, используемой для улучшения видео, что может привести к спорам и отвлечениям на судебном процессе.
Каковы некоторые критики доказательств, улучшенных ИИ?
Скептики утверждают, что доказательства, улучшенные ИИ, могут привести к неточным и предвзятым результатам. Они также считают, что требуется больше исследований и установленных методологий для обеспечения надежности технологии.
Какие меры принимают политики по отношению к рискам, связанным с технологиями ИИ?
Политики на уровне штатов и федерального уровня в настоящее время борются с потенциальными опасностями технологий ИИ, включая распространение deepfakes и необходимость в регулировании этих рисков.
Источник: NBC News
В дополнение к деталям, представленным в статье, важно отметить прогнозы индустрии и рынка, связанные с технологией ИИ в правовых процессах. Индустрия ИИ стремительно растет, с приложениями, охватывающими области от здравоохранения до финансов, и юстиция также исследует внедрение технологий ИИ.
Согласно отчету исследовательской компании MarketsandMarkets, к 2024 году глобальный рынок ИИ в юриспруденции прогнозируется достигнуть $1,23 миллиарда, растущий с темпом годового среднего уровня роста (CAGR) 31,3% с 2019 по 2024 год. Это указывает на значительный рыночный потенциал для решений ИИ в юридическом секторе, включая использование улучшенных ИИ-доказательств.
Однако существует несколько проблем и вызовов, связанных с использованием ИИ в правовых процессах. Прозрачность и интерпретируемость моделей ИИ — это ключевые аспекты. Системы ИИ часто генерируют сложные выводы на основе интригующих алгоритмов, что затрудняет понимание и проверку результатов как для неспециалистов, так и для юристов. Этот недостаток прозрачности может вызвать сомнения относительно точности и надежности улучшенных ИИ-доказательств.
Более того, предвзятость в алгоритмах ИИ — это значительная проблема. Модели машинного обучения обучаются на существующих данных, что может усиливать предвзятости и предубеждения, присутствующие в тренировочных данных. Это может привести к предвзятым результатам в улучшенных ИИ-доказательствах, усиливая существующие неравенства в уголовной юстиции.
Для решения этих вопросов юридическое сообщество призывает к строгим стандартам и руководящим принципам для использования ИИ в правовых процессах. Они подчеркивают необходимость пэйр-ревью методологий, валидации от третьих сторон и руководств, чтобы обеспечить прозрачность, доверительность и справедливость систем ИИ, используемых для улучшения доказательств.
Судебное решение в штате Вашингтон может стать прецедентом для аналогичных случаев по всем Соединенным Штатам. Другие суды могут принять это решение во внимание при оценке допустимости улучшенных ИИ-доказательств.
Для получения дополнительной информации о применении ИИ в юридической сфере и связанных темах, вы можете посетить авторитетные источники, такие как веб-сайт Американской ассоциации юристов (ABA) или веб-сайт Международной ассоциации искусственного интеллекта и права (IAAIL). Эти ресурсы предоставляют ценные инсайты в текущие дискуссии и разработки в этой области.
The source of the article is from the blog shakirabrasil.info