Роль штучного інтелекту в сучасній війні створює нові загрози
У змінному полі бойових дій автономні збройні системи, що працюють за допомогою штучного інтелекту (ШІ), становлять належну закономірність для глобальної безпеки. Професор Карл Ганс Блязіус, відомих пенсіонер із комп’ютерних наук, який спеціалізується на ШІ, піднімає тривогу щодо потенційної небезпечності виникнення таких технологій, які можуть спровокувати швидкі цикли ескалації, які вийшли поза контроль людини.
Професор Блязіус розкриває переваги автономії в технологіях, таких як можливість створення автомобілів з автоматичним керуванням та роботів у небезпечних середовищах. Однак він наголошує на серйозних ризиках, пов’язаних з автономною зброєю, призначеною для знищення. Він стверджує, що автоматизувати акт вбивства є небажаним, і попереджає про особливо небезпечні досягнення, включаючи ті, що стосуються ядерної зброї.
Стверджуючи паралелі з алгоритмами високочастотної торгівлі фінансами, які викликали раптові падіння ринку, відомі як “флеш-краші”, професор Блязіус попереджає, що ШІ-драйвова зброя може подібно взаємодіяти в непередбачуваних ситуаціях, призводячи до швидких та неконтрольованих “флеш-воєн”. Ці сценарії змальовують майбутнє, де автоматизовані системи займаються бойовими діями зі швидкістю, що перевищує здатність людини взаємодіяти, створюючи сpiraling ефект агресії та контр-агресії.
Наголошуючи на існуючому використанні ШІ в військовому визначенні цілей, такому як використання Ізраїлем для визначення бойовиків ХАМАС і їхніх місць розташування, професор Блязіус висловлює турботу про відсутність людського підтвердження в таких ситуаціях, що нарешті може призвести до того, що машини вирішать, хто живе, а хто помирає, включаючи цивільне населення.
Блязіус заключає, звертаючись до необхідності ШІ в управлінні надзвичайною складністю і часовим тиском у сучасних військових операціях. Проте він визнає проблематичну природу цих досягнень, оскільки вони можуть обхідати людський суд та етичні наслідки цього.
Виклики та конфлікти з автономною зброєю, що приводяться ШІ
Автономна зброя, запроваджена ШІ, поставляє низку складних питань та конфліктів, які викликали контроверзію в різних секторах, включаючи військовий, політичний, етичний та правовий сектори. Нижче наведено деякі ключові виклики та конфлікти:
Відповідальність: Однією з основних проблем автономних збройних систем є питання, хто буде відповідальний у випадку ненавмисного знищення або незаконної смерті. Без чітких керівних принципів визначити відповідальність за дії ШІ може бути важким.
Етичні розгляди: Використання ШІ в бойових діях викликає етичні питання про поцінювання людського життя. Машина не може цінувати людське життя, викликаючи побоювання, що їх застосування в бойових діях може призвести до більшої схильності до конфліктів та більшеї втрати життя.
Порушення політичного прийняття рішень: Традиційно рішення про початок війни є політичним, прийнятим вибраними представниками або керівниками. З автономними системами, які працюють за ШІ, що можуть реагувати на загрози за мілісекунди, є страх, що політичний процес може обходитися, і війни можуть початися без належного демократичного процесу.
Військова ескалація: Запровадження аутономної зброї може призвести до гонки озброєнь, оскільки нації намагаються не поступатися уможливостями інших. Це може призвести до збільшення військових напруг та нестабільності на всесвітньому рівні.
Ризик несправності: Системи, що працюють на ШІ, піддаються технічним неполадкам та несправностям. В разі виникнення помилки програмного забезпечення або випадку взлому автономна зброя може залучитися до небажаних чи непередбачуваних поведінок, що можуть призвести до конфлікту.
Переваги й недоліки
Переваги:
– Збільшена ефективність та швидкість у реагуванні на загрози
– Зменшення ризику для людських вояків у бойових ситуаціях
– Точність при визначенні цілей, що може зменшити довідкові збитки в певних контекстах
– Операція в середовищах, що є надто небезпечними для людей
Недоліки:
– Потенціал втрати контролю та зменшення нагляду людини
– Етичні питання, щодо цінності людського життя та прийняття рішень щодо використання смертельної сили
– Можливість виникнення несправностей чи підриву системи опонентами
– Ризик ескалації та поширення військових конфліктів (флеш-війни)
– Дилема у програмуванні ШІ для відповідності міжнародному гуманітарному праву
Ключові питання:
1. Хто несе відповідальність за дії, здійснювані автономною збройною системою?
2. Як може військовість, приведена ШІ, дотримуватися міжнародного гуманітарного права?
3. Які механізми можна вжити для забезпечення адекватного контролю людей над автономною зброєю?
4. Як міжнародна спільнота може запобігти поширенню та ескалації штучно інтелектом приведеної автономної зброї?
У міру того, як дискусія про штучно інтелектом приведену автономну зброю продовжується, Організація Об’єднаних Націй стала платформою, де обговорюються ці виклики, шукаючи глобальний консенсус щодо регулювання та контролю такої зброї.
Загалом, хоча є потенціальні переваги використання ШІ в військових операціях, недоліки та ризики підкреслюють необхідність уважної уваги та регулювання на міжнародному рівні. Той факт, що існує ймовірність “флеш-воєн” служить темним нагадуванням про можливі наслідки стрімкого використання ШІ в військових діях без належних перевірок та збалансованих заходів.