Інноваційні підходи до забезпечення безпеки штучного інтелекту
Технологічні компанії в Південній Кореї вживають активні заходи, щоб встановити заходи, які гарантують безпечне застосування штучного інтелекту (ШІ) та мінімізують пов’язані ризики. Лідируючи, Naver – найбільший інтернет-конгломерат країни – недавно представив свій Керуючий рамком безпеки ШІ (ASF), щоб оцінювати та управляти потенційними ШІ пов’язаними ризиками. ASF спрямований на забезпечення контролю людини над технологією ШІ та запобігання недолікам.
Первинна оцінка передових ШІ
Naver регулярно оцінюватиме загрози своїми системами ШІ, особливо тими, що знаходяться на передньому краї технологічного прогресу. У випадках, де можливості ШІ стрімко зростають, будуть проводитися додаткові оцінки для ефективного вирішення нових ризиків.
Моделі оцінки ризиків та відповідальний розподіл
Naver планує впровадити матриці оцінки ризиків для оцінки ймовірностей та потенційних наслідків ризиків перед впровадженням моделей ШІ. Цей підхід спрямований на просування різноманітних культурних відображень у моделях ШІ без порушення безпеки та конфіденційності користувачів.
Спільні ініціативи з дослідження ШІ
Окремо Samsung Electronics співпрацював з Національним університетом Сеула для створення спільного центру дослідження ШІ. Ця співпраця підвищить конкурентоспроможність Samsung у розвитку технологій ШІ у наступні три роки, зокрема у смарт-телевізорах, смартфонах та побутових приладах.
Інтеграція ШІ у передові продукти
Як провідний виробник смартфонів, Samsung інтегрує технологію ШІ у свої найновіші продукти, включаючи майбутній смартфон Galaxy S24. Ця стратегічна інтеграція спрямована на поліпшення функцій та можливостей продукту, а також на приваблення талантів для майбутніх проектів досліджень ШІ.
Міжнародне зобов’язання відповідального розвитку ШІ
Як Naver, так і Samsung Electronics обіцяли розвивати та використовувати ШІ відповідально та безпечно, як підтверджено на другому Саміті ШІ, спільно організованому Південною Кореєю та Великою Британією в Сеулі. Компанії прагнуть дотримуватися “Сеульської декларації”, сприяючи безпечному, інноваційному та всебічному розвитку ШІ для вирішення викликів та можливостей у стрімко змінному ландшафті ШІ.
Примітні факти:
1. Дочірня компанія Google, DeepMind, відома своїми дослідженнями та розвитком ШІ, зокрема в галузі підсиленого навчання, внесла значний внесок у покращення безпеки та етики ШІ.
2. Компанія Microsoft створила Раду з етики ШІ для контролю за відповідальним розвитком та впровадженням технологій ШІ у своїх різних продуктах та послугах.
3. Facebook стикнувся з суперечками щодо безпеки ШІ, особливо в галузях дезінформації та алгоритмічного упередження, що призвело до підвищеного нагляду та закликів до прозорості у їхній практиці з ШІ.
4. IBM активно займається популяризацією безпеки ШІ через ініціативи, наприклад, набір інструментів AI Fairness 360, який допомагає розробникам виявляти та усувати упередження в моделях ШІ.
Ключові питання:
1. Як великі технологічні гіганти забезпечують прозорість та відповідальність у своїх процесах розвитку ШІ?
2. Які заходи прийняті для вирішення етичних питань, пов’язаних з технологіями ШІ, такими як конфіденційність даних та алгоритмічне упередження?
3. Як співпраця між лідерами промисловості та академічними установами може просунути дослідження та впровадження безпеки ШІ?
4. Які законодавчі рамки існують для регулювання безпечного та відповідального використання ШІ технологій технологічними компаніями?