Введение:
Недавно принятый законодательный акт, достигнутый после переговоров с государствами-членами, вызвал заметное одобрение и направлен на решение потенциальных рисков, связанных с искусственным интеллектом (ИИ), а также на поощрение инноваций. С акцентом на защиту фундаментальных прав, демократии, правового государства и экологической устойчивости, эта новая законодательная инициатива позиционирует Европу в качестве лидера в области ИИ.
Запрещенные приложения:
Для защиты прав граждан законодательство запрещает определенные приложения ИИ. К ним относятся использование биометрических систем категоризации на основе чувствительных характеристик и нецелевое сканирование лиц для создания баз данных распознавания лиц. Также запрещены распознавание эмоций на рабочих местах и в школах, социальное скорингирование, прогностическое полицейское дело, полностью основанное на профилировании, и ИИ, предназначенный для манипулирования поведением людей или эксплуатации их уязвимостей.
Исключения для правоохранительных органов:
Хотя законодательство принимает твердую позицию в обеспечении защиты прав личности, оно признает необходимость ограниченных исключений в правоохранительных органах. Использование биометрических систем идентификации (RBI) правоохранительными органами в общем запрещено, за исключением конкретных и четко определенных сценариев. Внедрение «в реальном времени» RBI требует строгих гарантий, таких как временные и географические ограничения, а также явного судебного или административного разрешения. «Постнастройка использования таких систем («постудаленный RBI») считается высокорискованной и требует судебного разрешения, связанного с уголовным правонарушением.
Обязательства для высокорисковых систем:
Чтобы предотвратить потенциальный ущерб здоровью, безопасности, фундаментальным правам, экологии, демократии и правовому государству, законодательство накладывает четкие обязательства на высокорисковые системы ИИ. Эти требования распространяются на критическую инфраструктуру, образование, профессиональную подготовку, занятость, основные публичные и частные услуги (например, здравоохранение, банковское дело), некоторые системы правоохранительных органов, миграцию и управление пограничными зонами, а также на правосудие и демократические процессы (например, избирательное влияние). Высокорисковые системы должны проводить оценку рисков и их снижение, вести полные журналы использования, обеспечивать прозрачность и точность, а также гарантировать контроль человека. Кроме того, граждане имеют право подавать жалобы относительно систем ИИ и получать объяснения о решениях, которые влияют на их права, когда в работе вовлечены высокорисковые системы ИИ.
Требования к прозрачности:
Законодательство подчеркивает необходимость прозрачности в системах общего назначения ИИ (GPAI) и моделях, поддерживающих их. Эти требования включают соблюдение авторского права ЕС и публикацию подробных резюме контента, используемого для обучения. Особенно мощные модели GPAI, которые могут создавать системные риски, будут подвергаться дополнительным требованиям, таким как прохождение модельных оценок, анализ и снижение системных рисков, а также предоставление отчетов о происшествиях. Кроме того, законодательство обязывает явно маркировать искусственные или поддельные изображения, аудио- или видео-контент («deepfakes»)
Меры поддержки инноваций и МСП:
Признавая важность поощрения инноваций, законодательство дает национальным органам полномочия устанавливать регуляторные песочницы и облегчать тестирование в реальном мире. Эти положения направлены на обеспечение возможностей для малых и средних предприятий (МСП) и стартапов разрабатывать и обучать инновационные технологии ИИ перед их запуском на рынке.
ШАВ:
— Чем цель недавно принятого законодательного акта об ИИ?
— Существуют ли запрещенные приложения ИИ по новому законодательству?
— Существуют ли какие-либо исключения для правоохранительных органов?
— Какие обязательства накладываются на высокорисковые системы ИИ?
— Как обеспечивается прозрачность законодательством?
— Как поддерживаются инновации и МСП занимающиеся ИИ?
Заключение:
С помощью этого революционного законодательного акта Европа делает значительный шаг к обеспечению ответственного развития и использования ИИ. Строя баланс между защитой фундаментальных прав и поощрением инноваций, Европа позиционирует себя как глобального лидера в этой быстро развивающейся области.
Источники:
[URL домена]
Определения:
— Искусственный интеллект (ИИ): Симуляция человеческого интеллекта в машинах, программированных думать и учиться как люди.
— Биометрические системы категоризации: Системы, использующие биометрические данные, такие как черты лица, отпечатки пальцев или сканы радужки глаз, для категоризации индивидуумов.
— Базы данных распознавания лиц: Базы данных, хранящие лицевые изображения для идентификации индивидуумов.
— Распознавание эмоций: Способность ИИ систем определять и интерпретировать человеческие эмоции на основе выражений лица, тон голоса или других физиологических сигналов.
— Прогностическое полицейское дело: Использование алгоритмов ИИ для анализа данных и прогнозирования преступных паттернов или выявления потенциальных правонарушителей.
— Профилирование: Процесс анализа и категоризации индивидуумов по их личным, социальным или поведенческим характеристикам.
— Прозрачность: Принцип предоставления четкой и понятной информации о технологиях, алгоритмах и процессах принятия решений, используемых в системах ИИ.
— ИИ общего назначения (GPAI): Системы ИИ, предназначенные выполнять широкий спектр задач и функций.
— Deepfakes: Искусственные или поддельные изображения, аудио- или видео-контент, которые кажутся реальными, но изменены или созданы с использованием технологии ИИ.
Ссылки:
— Создание и инновации в Европе
— Регуляторные песочницы в Европе
— Стратегия Европейской Комиссии по ИИ
— Белая книга по искусственному интеллекту — Европейская Комиссия
The source of the article is from the blog enp.gr