Предизвиквайки света за незабавно действие, Генералният секретар на Организацията на обединените нации, Антонио Гутериш, изрази сериозна загриженост относно хрумването на световния мир с настъпването на изкуствения интелект. В видеообръщение, което ще бъде показано на годишната среща на Асоциацията за контрол на оръжията (ACA) във Вашингтон, Гутериш подчерта нарастващата заплаха от ядрена война, която потенциално може да бъде предизвикана от напредналите технологии.
Той акцентира върху настоятелната нужда от ядрено въоръжени държави да вземат сериозно своите задължения за неразпространение и да се съгласят за взаимно обещание никога да не бъдат първи в използването на толкова видни оръжия. Ослабването на световните споразумения за предотвратяване на използването, тестването и разпространението на ядрени оръжия беше особено фокусирано в неговото записано послание, особено тъй като договорът за ново стартиране от 2010-та година между САЩ и Русия приближава към изтичане.
Въпреки намаляването на ядрените арсенали от времето на Студената война, Гутериш подчертава нарастването на ядрения арсенал на Русия и готовността на балистичните ракети на САЩ и Русия. Отклоняването към изкуствения интелект в контролните системи за ядрени оръжия може драстично да ускори процедурите за пускане, повишавайки риска от спешни и потенциално катастрофални решения.
Гутериш навява силно за човешки надзор върху всяко решение за използване на ядрени оръжия, осъждайки делегирането на толкова сериозни избори на алгоритми или машини. Този поглед наподобява общото изявление на САЩ, Великобритания и Франция две години по-рано относно необходимостта от запазване на човешки контрол в ядрените изстрелвания, ангажимент, който още не е бил изпълнен от Русия и Китай.
В свят, който е драматично намалил своите ядрени запаси от връха си по време на Студената война до около 12 100 днес, както е оценено от Федерацията на американските учени, Генералният секретар призова ядрените държави да преследват разоръжаване и да възродят диалога, за да предотвратят използването на ядрени оръжия. Той специфично призова Съединените щати и Русия да се върнат на преговорната маса и да удължат или заменят договора за ново стартиране.
Относно последното предложение от страна на Китай за договор „непървайноизползване“ и неясния отговор на САЩ, Гутериш потвърди миналите си апели за прекратяване на ядрените тестове и колективно уверение, че никоя нация няма да предизвика ядрена атака, като подчертае ужасната нужда от отворен диалог и ясна комуникация при справяне със нарастващите стратегически рискове.
Предупреждението на Главния на ООН относно потенциалната роля на изкуствения интелект в повишаване на риска от ядрена война повдига няколко ключови въпроса и подчертава предизвикателствата и споровете около напредъка на военните технологии:
1. Как изкуственият интелект увеличава риска от ядрена война?
Изкуственият интелект може да обработва данни и да взема решения на по-голяма скорост от хората. В контекста на ядрените оръжия това може да означава, че система с изкуствен интелект може да препоръча или дори да инициира ядрен отговор въз основа на възприети заплахи по-бързо от човешките оператори, което остава по-малко време за човешко преценяване и увеличава възможностите за случайно или необмислено изстрелване.
2. Какви са основните предизвикателства, свързани с изкуствения интелект и ядрената война?
Запазването на човешки контрол върху решението за изстрелване на ядрени оръжия е значително предизвикателство. Има затруднение в установяването на международни споразумения, които действително да управляват използването на ИИ във военни приложения, както и в осигуряването на надеждни ИИ системи, сигурни от промяна или хакване, способни да дадат точна оценка на сложни ситуации без да предизвикат ненужно ескалация.
3. Какви са споровете?
Основен спор е свързан с етичните импликации на позволяването на системи с изкуствен интелект да вземат решения за живот и смърт, които евентуално могат да унищожат хорнейските популации. Също така има дипломатическо напрежение относно неохотата на определени ядрени държави, като Русия и Китай, да се обвържат публично с политика „непървайноизползване“ или да се съгласят със същите гаранции за човешки контрол като други държави.
Предимства и Недостатъци:
Предимствата при използването на изкуствен интелект в ядрени системи може да включва подобрено време за реакция на заплахи и по-ефективно управление на сложни защитни системи. Въпреки това недостатъците са значителни. Риска от конфликт по случайност може да се увеличи, ако ИИ грешно тълкува данни или ситуации, и ускорената скорост на вземане на решения може да намали времето за дипломатическо решение на напреженията. Освен това, зависимостта от ИИ може да доведе до безпрецедентна надпревара в технологиите за автономно оръжие, което може да дестабилизира международната сигурност още повече.
За да научите повече за ролята на Организацията на обединените нации в разоръжаването и свързаните с това международни усилия, можете да посетите официалния уебсайт на Организацията на обединените нации чрез този линк: United Nations. За информация за работата и изследванията в областта на контрола на оръжията, Асоциацията за контрол на оръжията е ценен ресурс: Arms Control Association.
The source of the article is from the blog maestropasta.cz