На една сутрешна сесия на форума за технологии и култура на Sónar беше зададен мисловен въпрос от Артур Гарсия, физик, инженер и изследовател в Барселона Суперкомпютърен център. Той предизвика аудиторията, като постави под въпрос мъдростта на възлагането на изкуствен интелект (ИИ) управлението на ядрените кодове и подчерта сериозността на включването на ИИ в критичните решения.
Форумът, озаглавен Генериране на паника, подготви терен за вдъхновяващо обсъждане на влиянието на ИИ върху изкуството, обществото и културните индустрии. Гарсия беше придружен от група светли хора в областта на ИИ, включително професорът по креативно изчисляване Ребека Фибринк от Университета на изкуствата в Лондон, журналистката и авторка Марта Пейрано, креативният директор Марта Ханденавер, както и професорът по философия Маноло Мартинес от Университат де Барселона.
Марта Пейрано предостави уверение, като размишляваше за възможността за продължаващата сила на традиционните форми на изкуство, дори пред новите технологии. Тя сравни издигането на фотографията и нейното влияние върху картината с настоящото вграждане на ИИ в филмовата индустрия, уверявайки, че филмите, генерирани от ИИ, няма да означават края на киното, както го познаваме.
Sónar+D, сегмента за дигитално творчество на фестивала Sónar, беше подчертан с техно-скептицизъм, но също така озарен от артистичния и творчески потенциал на ИИ. Събитието изследва както просветителните, така и тревожните аспекти на ИИ, както беше описано от куратора на фестивала Антония Фолгера. Тя посочи, че целта на събитието беше да представи разнообразните страни на ИИ, от вдъхновяващите му приложения в музиката до по-спорните му обществени влияния.
Една от важните точки беше дискусията за това как ИИ може да спекулира за бъдещето на изкуството, допринесейки за текущия диалог за връзката между технологията и културата. Творческата страна на ИИ беше отбелязана с интерактивни инсталации и дигитален психоанализ на личността, предоставяйки занимателен опит на участниците.
Все пак не всички дискусии бяха в подкрепа на приложенията на ИИ. Изпълнението на активиста Саша Костанца-Чок подчерта опасностите от злоупотребата с технологии, илюстрирайки как ИИ може да подкрепи разрушителни актове на насилие и подчертавайки етичните аспекти при използването на тази мощна технология.
Етиката на управлението на ИИ в ядрените кодове повдига няколко важни въпроса:
1. Как можем да гарантираме надеждността на системите на ИИ, отговорни за ядрените оръжия? Разработването на механизми за безопасност и проверки за устойчивост е от съществено значение за ограничаване на рисковете от случайни пускания поради грешки или уязвимости в ИИ.
2. Могат ли ИИ-контролирани оръжейни системи да вземат решения без човешко вмешателство и дали трябва да го правят? Възниква дебат за това дали системи с човек в цикъла са необходими, за да се поддържа морален и стратегически контрол върху използването на ядрени оръжия.
3. Какви са последиците от динамиката в използването на ИИ между държавите? Съревнованието за развитие на по-добра ИИ технология за военни възможности може да доведе до увеличаване на напрежението и въоръжената нагоня, което би могло да дестабилизира международния мир.
Ключовите предизвикателства или контроверзии, свързани с ИИ в ядрените кодове, включват:
– Етика на машините: Програмирането на етични и морални разсъждения в системите на ИИ, особено по отношение на ситуации с живот и смърт, е неразрешимо предизвикателство.
– Прозрачност при вземането на решения: Процесът на вземане на решения на ИИ може да бъде непрозрачен, възникват опасения от отговорността и проследимостта на действията, предприети от системите на ИИ.
– Международно регулиране: Липсва на международни закони или споразумения, които специално да уреждат използването на ИИ в системите за ядрени оръжия.
Предимства и недостатъци същестуват в дискусията:
Предимства:
– Ефективност и бързина: ИИ може да обработи информация и да координира отговори по-бързо от човек, което потенциално предоставя предимства в отбранителни ситуации.
– Намаляване на човешките грешки: ИИ може да намали риска от случайни пускания поради човешки грешки или грешно разбиране.
Недостатъци:
– Риск от случайна война: Неправилно тълкуване на данните от ИИ или системни повреди може да предизвикат ненарочни ядрени пускания.
– Морални сложности: Делегирането на етични решения, като използването на ядрени оръжия, на машините може да дезензибилизира или да отдалечи хората от сериозността на такива избори.
Препоръчани свързани връзки към основния домейн за допълнителни изводи относно управлението на ИИ и етиката включват:
– RAND Corporation извършва обширни изследвания относно последиците от ИИ във военните операции.
– Future of Life Institute проповядва за безопасен и полезен ИИ, включително дискусии за ядрените оръжия.
– CSET предлага анализи и препоръки относно сигурностните последици на нови технологии като ИИ.