Валерій Фадєєв відзначає потенційні ризики
Валерій Фадєєв, глава Ради при Президентові Росії з розвитку громадянського суспільства та прав людини, наголосив на важливості розумного використання сучасних цифрових технологій та штучного інтелекту (ШІ) у вирішенні питань, що впливають на життя людей. Виступаючи на Першому Міжнародному Науково-Практичному Форумі “Право Цифрової Безпеки”, організованому Університетом МГІМО, Фадєєв, який має фізико-технічну освіту, висловив скептичну думку про піар нових технологій, цифровізації та ШІ.
Справа про помилкову ідентифікацію
Рада була залучена до звільнення чоловіка, неправомірно ув’язненого на підставі програмного забезпечення розпізнавання обличчі, яке неправильно ідентифікувало його як злочинця з 55% ймовірністю. Фадєєв зазначив, що навіть 1% погрішності є значною, коли маємо справу з чутливими питаннями, і підкреслив важливість мінімальних показників помилок, коли на мілиусі стоять людські долі.
Потреба у позитивних результатів
На своєму засіданні “Цифрові Права Людини та Цифрова Безпека”, Фадєєв обговорив потребу у формулюванні рішень, які призводили б до позитивних впливів цифровізації. Він закликав до розуміння цих нових технологій та використовувати їх величезний потенціал для поліпшення суспільства.
Захист цифрових прав поза судом
Еліна Сідоренко з Ради та глава АНО “Білий Інтернет” підкреслила вирішальне значення захисту цифрових прав поза судом, наприклад, шляхом арбітражних судів, щоб законно встановити цифрові сліди як факти. Вона обговорила питання “цифрування” юристів або “легалізації” ІТ-спеціалістів, вважаючи краще цифрування юристів для збереження певних правових норм у адаптації до нових цифрових реалій.
форум, організований АНО “Білий Інтернет” та Міністерством закордонних справ Росії спільно з провідними російськими університетами, послужив майданчиком для експертів обговорення поточних тенденцій, правових ризиків цифровізації та стратегій зміцнення цифрового суверенітету та безпеки Росії.
Важливість етики та управління в ШІ
Критичний аналіз ШІ та цифрових технологій у прийнятті рішень повинен враховувати потребу в етичних принципах та управлінні. Високі технології, такі як ШІ, мають потенціал значно впливати на процеси прийняття рішень у багатьох сферах, включно з кримінальною юстицією, фінансами, охороною здоров’я та управлінням. Забезпечення того, що такі системи неупереджені, прозорі та діють в межах етичних норм, є вельми важливим.
Ліквідація упередженості та дискримінації
Одна з ключових проблем – це ризик успадкування людських упереджень в алгоритмах ШІ, що може призвести до дискримінаційної практики. Надзвичайно важливо врахувати різноманітні набори даних та інклюзивні алгоритми для пом’якшення цих ризиків.
Прозорість та пояснюваність
Іншою проблемою є прозорість та пояснюваність. Системи ШІ повинні бути розроблені таким чином, щоб їх рішення можна було зрозуміти та перевірити людьми, особливо коли ці рішення мають значущі наслідки для осіб чи суспільства.
Конфіденційність і безпека даних
Конфіденційність і безпека даних є вельми важливими, оскільки системи ШІ часто ґрунтуються на великих обсягах особистих даних. Забезпечення безпеки цих даних від порушень та дотримання прав конфіденційності осіб – критичне питання.
Регуляторні виклики
Виникають також регуляторні виклики, оскільки країни та організації борються з найкращими способами контролю та управління впровадженням ШІ та цифрових технологій. Регуляції, такі як ЗУЗ за ЄС, створюються для вирішення цих проблем, але глобальні стандарти все ще є частиною роботи над поміненням.
Переваги ШІ та Цифрових Технологій у Прийнятті Рішень
– Збільшена ефективність та швидкість процесів прийняття рішень.
– Дані-орієнтовані уявлення, які можуть призвести до більш точних результатів.
– Потенціал подолати людські когнітивні обмеження та упередженості (якщо добре розроблені).
Недоліки ШІ та Цифрових Технологій у Прийнятті Рішень
– Потенційна втрата робочих місць через автоматизацію.
– Складнощі у розумінні та інтерпретації процесів прийняття рішень ШІ.
– Ризик утримання та підвищення упередженості, якщо не буде ретельно контрольованим.
– Залежність від технології може призвести до уразливості у випадках дефектів чи кібератак.
Відповідні посилання на основні домени, які обговорюють управління ШІ та цифровими технологіями можуть включити:
– Організація Здоров’я ООН (ВООЗ) щодо етики ШІ в охороні здоров’я
– Організація Об’єднаних Націй (ООН) для обговорення цифрових прав людини
– Європейська Комісія (ЄК) для регуляцій, таких як ЗДД
– Міжнародний Телекомунікаційний Союз (МІЦ) для глобальних стандартів у технологіях
Зауважте, що вищезазначені URL-адреси є основними доменами, і кожна організація пропонує вичерпні ресурси з питань ШІ та цифрових технологій у своїх відповідних областях фокусу та експертизи.