Инновационные подходы к обеспечению безопасности ИИ
Технологические компании в Южной Корее предпринимают проактивные шаги для установления мер, гарантирующих безопасное применение искусственного интеллекта (ИИ) при минимизации связанных рисков. Ведущий путь, Naver — крупнейший интернет-конгломерат страны — недавно представил свой Фреймворк безопасности ИИ (ASF), который направлен на оценку и управление потенциальными рисками, связанными с ИИ. ASF фокусируется на обеспечении человеческого контроля над технологией ИИ и предотвращении злоупотреблений.
Пионерская оценка передовых технологий ИИ
Naver будет регулярно оценивать угрозы, создаваемые своими системами ИИ, особенно теми, которые находятся на передовой в развитии технологий. В случаях, когда возможности ИИ развиваются быстро, будут проведены дополнительные оценки для эффективного реагирования на любые новые риски.
Модели оценки рисков и ответственное распространение
Naver планирует внедрить матрицы оценки рисков для оценки вероятностей и потенциального влияния рисков перед развертыванием моделей ИИ. Этот подход направлен на продвижение разнообразных культурных отражений в моделях ИИ без ущерба для безопасности или конфиденциальности пользователей.
Совместные исследовательские инициативы в области ИИ
Отдельно Samsung Electronics сотрудничает с Национальным университетом Сеула для создания совместного центра исследований по ИИ. Это сотрудничество повысит конкурентоспособность Samsung в разработке технологий ИИ в течение ближайших трех лет, в частности в сферах смарт-телевизоров, смартфонов и бытовой техники.
Интеграция ИИ в передовые продукты
Как ведущий производитель смартфонов, Samsung интегрирует технологию ИИ в свои новейшие продукты, включая предстоящий смартфон Galaxy S24. Эта стратегическая интеграция направлена на повышение функциональности продуктов и привлечение талантов для будущих проектов по исследованиям в области ИИ.
Международное обязательство к ответственному развитию ИИ
Как Naver, так и Samsung Electronics обязались разрабатывать и использовать ИИ ответственно и безопасно, что было продемонстрировано на втором саммите по ИИ, совместно организованном Южной Кореей и Великобританией в Сеуле. Компании стремятся придерживаться «Декларации Сеула», способствующей безопасному, инновационному и комплексному развитию ИИ для решения вызовов и возможностей в быстро меняющемся ландшафте ИИ.
Примечательные факты:
1. Дочерняя компания Google, DeepMind, известна своими исследованиями и разработками в области обучения с подкреплением, внося значительный вклад в безопасность и нравственность ИИ.
2. Microsoft создал совет по этике ИИ, который наблюдает за ответственным развитием и внедрением технологий ИИ в своих различных продуктах и услугах.
3. Facebook столкнулся с контроверзиями, касающимися безопасности ИИ, в частности в областях дезинформации и алгоритмического предвзятого отношения, что привело к увеличенной критике и требованиям прозрачности в их практиках по применению ИИ.
4. IBM активно содействует повышению безопасности ИИ через инициативы, такие как набор инструментов AI Fairness 360, которые помогают разработчикам выявлять и устранять предвзятость в моделях ИИ.
Ключевые вопросы:
1. Как технологические гиганты обеспечивают прозрачность и ответственность в своих процессах разработки ИИ?
2. Какие меры предпринимаются для решения этических вопросов, связанных с технологиями ИИ, такими как конфиденциальность данных и алгоритмическое предвзятое отношение?
3. Как сотрудничество между лидерами индустрии и академическими учреждениями может продвигать исследования и внедрение безопасности ИИ?
4. Какие регуляторные каркасы существуют для управления безопасным и ответственным использованием ИИ компаниями в сфере технологий?