Искусственный интеллект (ИИ) все более проникает в жизнь детей, но он иногда может усилить вредный контент, с которым они сталкиваются в интернете, предупреждает регулятор медиа-контента Coimisiún na Meán. Говоря перед Комитетом по делам детей, комиссар по онлайн-безопасности Ниам Ходнетт подчеркивает, что ИИ изначально не был создан с учетом потребностей детей, и безопасность не всегда ставится на первый план. Хотя технологии, такие как генеративный ИИ, чат-боты и интерактивные игры могут помочь в обучении и игре детей, они также несут риски.
Одной из основных проблем, поднятой Coimisiún na Meán, является проблема того, что дети слишком доверяют системам ИИ. Эти системы иногда могут предоставлять неверную или вводящую в заблуждение информацию, подвергая детей контенту, не соответствующему их возрасту. Кроме того, возникают угрозы в виде манипуляции изображениями через deepfakes и создания материалов о детском сексуальном насилии с помощью ИИ.
Недавно Комитет по делам детей Oireachtas обсудил недостаток достаточных мер по защите детей от опасностей, исходящих от ИИ в Ирландии. Хотя в стране есть сильные регуляторы, такие как Комиссар по защите данных и Coimisiún na Meán, требуется более строгое соблюдение правил для борьбы с негативными практиками крупных технологических компаний. Coimisiún na Meán, ответственный за регулирование платформ, таких как Meta и X (ранее Twitter) в ЕС, получил полномочия в рамках Закона об услугах в области цифровой сферы в ЕС для того, чтобы делать эти платформы ответственными и защищать людей, особенно детей, в онлайн-пространстве.
Для решения этих проблем Coimisiún na Meán включил меры в области ИИ в свой проект Кодекса онлайн-безопасности с целью защиты детей от вредного контента. В кодексе придается значение необходимости проведения оценок влияния на безопасность для систем ИИ и внедрения мер безопасности на платформах для минимизации причиняемого вреда. Кроме того, методики проверки возраста с использованием ИИ могут улучшить усилия по защите детей.
Хотя ИИ может помочь в модерации контента, важно рассмотреть потенциальные неточности и предвзятости в принятии решений. Основная цель должна заключаться в том, чтобы поставить детей на передний план при проектировании ИИ, обеспечивая их безопасность и благополучие. Coimisiún na Meán подчеркивает свое обязательство использовать свои регуляторные функции для эффективного обслуживания детей.
В заключение, по мере того как ИИ все теснее переплетается со жизнью детей, важно найти баланс между его преимуществами и потенциальными рисками. Путем внедрения надежных мер безопасности, борьбы с предвзятостью и активного привлечения детей в процесс дизайна, мы можем создать онлайн-среду, которая будет придавать приоритет их благополучию и защищать их от вредного контента.
The source of the article is from the blog mgz.com.tw