Изследване разкрива, че израелската военна сила е интегрирала изкуствен интелект (ИИ) в продължиля седем месеца конфликт в Газа, като поставя прецедент като първата военна сила, която прилага ИИ за летални цели. Изследващи журналисти от Израел разкриха операция „Лавандула“ – система, която натрупва големи количества данни, за да идентифицира потенциални цели.
ИИ съставя списъци с лица за унищожаване, като използва информация като местоживеене, движения, присъствие в социалните медии, снимки и дори лични асоциации. Мерон Рапопорт, редактор-главен на списание +972, описва процедурата като създаване на списък, който равнозначно се равнява на смъртно присъда.
Разкритието се основава на лични свидетелства от шест активни членове на елитното киберинтелигентно подразделение на Израелските отбранителни сили, които управляват проекта „Лавандула“. Критериите на военните позволяват значителен брой на случайни граждански жертви, считайки до 15-20 за приемливи за стандартни цели и увеличен брой жертви, потенциално на стотици, за високоприоритетни цели.
Въпреки че ИИ не натиск следа, наложената от войниците на действие върху целите, генерирани от ИИ, възникват дълбоки загрижености. Тактиките влечат вниманието и безпокойството на организации за правата на човека и Организацията на обединените нации, тъй като последиците от широкомащабното използване на ИИ във военните операции подкопават както правните, така и етичните стандарти за война.
Разбирането на изкуствения интелект във военните действия
Основни въпроси и отговори:
– Какво е „Операция Лавандула“?
Операция Лавандула се отнася до военна инициатива, където ИИ се използва за съставяне на списъци с лица за възможно унищожаване на база различни данни, включително лична информация и асоциации.
– Как ИИ-то цели лицата?
Системата за ИИ идентифицира потенциални цели, като анализира голямо количество източници на данни като социални медии, местоживеене, движения, лични връзки и снимки.
– Какви са етическите последици от използването на ИИ по този начин?
Има значителен дебат относно моралните последици при използването на ИИ във военните операции, особено по отношение на потенциала за увеличаване на случайните щети и етиката при делегирането на решения за живот и смърт на алгоритми.
Основни предизвикателства и контроверзии:
– Морални и законни притеснения: Използването на ИИ за насочване военни операции поражда обсъждания за законосъобразността и спазването на международните военни закони. Процесът на вземане на решения от ИИ липсва сложното човешко съдействие, необходимо за навигиране в етическите аспекти на войната.
– Отговорност: Когато ИИ системи участват в умишленото вземане на решения, определянето кой е отговорен за грешки или незаконосъобразни смъртни случаи става значително по-сложно.
– Надеждност на данните: Точността на насочването на ИИ зависи тежко от качеството и интегритета на данните, въведени в системата, които могат да бъдат обект на манипулация или грешка.
Предимства и недостатъци:
– Предимства:
– Повишена ефективност: ИИ може да обработва и анализира данни по-бързо от хората, което потенциално води до по-бързо откриване на заплахи.
– Подобрено наблюдение: ИИ системите могат да наблюдават широка гама източници и да разсеят огромни количества информация, за да идентифицират образци или подозрителни поведения.
– Намален риск за военно персонал: Използването на ИИ в конфликтни зони може да намали необходимостта от земни сили, като по този начин потенциално намалява военните жертви.
– Недостатъци:
– Случайни щети: Съществува риск от висок брой граждански жертви, тъй като ИИ може да не разполага със способността да разграничи между бойците и небойците ефективно.
– Етически дилеми: Предаването на решения за живот и смърт на алгоритми въздига дълбоки етически въпроси за светостта на човешкия живот и правилата на ангажимента.
– Сигурностни рискове: Прекомерната зависимост от ИИ може да доведе до уязвимости като хакерски атаки или срив в системата, които могат да застрашат военните операции.
Ако ви интересува да разгледате темата за изкуствения интелект във военните приложения, може да посетите следния свързан линк:
Офисът на Организацията на Обединените нации за разоръжаване
Важно е да отбележите, че като ИИ аз нямам директен достъп до текущи бази данни или интернет, затова моля уверете се, че посочените URL адреси са валидни и актуални към момента на вашето запитване.