Ролята на изкуствения интелект в модерната военна дейност представя нови заплахи
В развиващия се пейзаж на военната дейност, автономните оръжейни системи, задвижвани от изкуствен интелект (ИИ), представляват належаща загриженост за глобалната сигурност. Проф. Карл Ханс Блезиус, отличен професор по информатика със специализация в областта на ИИ, изразява тревога от възможността за такива технологии да предизвикат бързи цикли на ескалация, надхвърлящи човешкия контрол.
Проф. Блезиус описва ползите на автономията в технологията, като потенциала за самоуправляващи се коли и роботи в опасни среди. Въпреки това, той подчертава сериозните рискове, свързани с автономните оръжейни системи, проектирани за унищожение. Той посочва, че автоматизирането на актовете на убийство е нежелателно и предупреждава за особено опасните напредъци, включително тези, свързани с ядрени оръжия.
Паралелно с високочестотните търговски алгоритми във финансовия свят, които са предизвикали спонтанни пазарни крахове, наричани „флаш крашове“, проф. Блезиус предупреждава, че ИИ-оръжията биха могли по сходен начин да участват в неочаквани взаимодействия, които водят до бързи и неуправляеми „флаш войни“. Тези сценарии описват бъдеще, в което автоматизираните системи участват във военна дейност със скорости, надхвърлящи човешката възможност за контраакция, създавайки спираловиден ефект на агресия и контрагресия.
Подчертавайки вече съществуващата употреба на ИИ за определяне на военни цели, като използването му от Израел за идентифициране на бойци на ХАМАС и техните местоположения, проф. Блезиус изразява тревога от липсата на човешка проверка в тези ситуации, което в крайна сметка може да доведе до това, че машините решават кой ще живее и кой ще умре, включително цивилни лица.
Блезиус завършва, като разглежда необходимостта от използване на ИИ за управление на огромната сложност и времевите налягания на модерните военни операции. Въпреки това, той признава проблематичния характер на тези развития, поради техния потенциал да прескачат човешкото съдействие и етичните импликации от това.
Предизвикателствата и контроверзи на ИИ-оръжията с автономна функциониране
ИИ-оръжията с автономно функциониране пораждат редица сложни въпроси и предизвикателства, които възбуждат контроверсии в различни сектори, включително военен, политически, етичен и правен. Ето някои от основните предизвикателства и контроверзи:
Отговорност: Едно от основните въпроси относно автономните оръжейни системи е кой трябва да бъде отговорен в случай на непреднамерено унищожение или неправомерна смърт. Без ясни насоки, определянето на отговорността за действията, извършени от ИИ, може да бъде трудно.
Етични разсъждения: Използването на ИИ във военната дейност поражда етични въпроси за децентрализацията на човешкия живот. Машина не може да оценява човешкия живот, възникващи съмнения, че тяхното използване във военните действия може да доведе до по-голяма склонност към конфликти и повече жертви.
Източничник: [Source URL](URL)