Kevin TopolskyКоманда дослідників групи FutureTech в Лабораторії комп’ютерних наук та штучного інтелекту (CSAIL) МІТ розпочала новаторський проект із створення загальної бази даних ризиків штучного інтелекту.
Дослідники виявили значні прогалини в існуючих фреймворках оцінки ризиків штучного інтелекту, приблизно 30% виявлених ризиків були пропущені навіть найбільш докладними індивідуальними фреймворками. Це підкреслює нагальну проблему в цій галузі – розпорошена природа інформації щодо ризиків штучного інтелекту в наукових журналах, попередніх публікаціях та промислових звітах призводить до сліпих плям у загальному розумінні.
Проект “База даних ризиків штучного інтелекту” складається із трьох основних компонентів:
1. База даних ризиків штучного інтелекту: Збір понад 700 ризиків з 43 існуючих фреймворків штучного інтелекту.
2. Викликава таксономія: Класифікація ризиків для розуміння того, як, коли і чому вони виникають.
3. Доменна таксономія: Категоризація ризиків на сім основних областей та 23 підобласті, включаючи дискримінацію, конфіденційність, дезінформацію, зловмисників, взаємодію людини і комп’ютера, соціоекономічні та екологічні шкоди, а також безпеку, збитки та обмеження систем штучного інтелекту.
У своєму резюме проекту автори підкреслюють критичну важливість цих ризиків для академії, ревізорів, політиків, компаній, які працюють у сфері штучного інтелекту, та громадськості. Проте відсутність спільного розуміння ризиків штучного інтелекту може ускладнити нашу здатність ефективно обговорювати, досліджувати та реагувати на них.
Репозитарій ризиків штучного інтелекту є піонерською спробою підготувати, проаналізувати та видобути фреймворки оцінки ризиків штучного інтелекту у форматі загальнодоступної, вичерпної, розширюваної та категоризованої бази даних ризиків. Ця ініціатива спрямована на створення основи для більш координованого, єдиності та всебічного підходу до визначення, аудиту і управління ризиками, що створюються системами штучного інтелекту.
