Нов доклад, проведен от глобален консорциум, разглежда въпросите по отношение на националната сигурност, свързани с бързо развиващата се технология на изкуствения интелект (ИИ). Подобно на други анализи, докладът предостеря за потенциалните опасности, които притежава ИИ и за спешната необходимост от предприемане на действия, за да се предотврати евентуална катастрофа.
Изследователите са прегледали над 200 лица, включително водещи изпълнителни директори на водещи компании за развитие на ИИ, експерти по киберсигурност, специалисти по оръжия на масово унищожение и официали от областта на националната сигурност. Техните заключения подчертават настоящата необходимост федералното правителство да действа с цел предотвратяване на евентуална криза.
В доклада се посочва, че ИИ може да доведе до икономически промени като лечение на болести и научни пробиви, но също така крие значителни рискове. Понеже възможностите на ИИ продължават да се развиват, налице е все по-голямо доказателство, че тези системи могат да станат неконтролируеми след определено ниво.
Докладът предупреждава за два основни опасности, представени от ИИ. Първо, най-развитите системи на ИИ биха могли да бъдат оръжиезиране, което би могло да доведе до потенциално необратими щети. Второ, съществуват опасения сред лабораториите за ИИ, че изследователите биха могли да загубят контрола върху самите системи, които разработват, с опустошителни последици за глобалната сигурност. С разрастването на ИИ и изкуствения общ интелект (АОИ) налице е потенциал за дестабилизиране на глобалната сигурност, много сходно на въвеждането на ядрени оръжия.
За да се справи с тези заплахи, докладът призовава за решителни действия, включително създаването на нова агенция за ИИ и въвеждането на „спешни“ регулаторни механизми. Докладът също така предлага наложаването на ограничения върху количеството компютърна мощ, използвано за обучение на модели на ИИ. Подчертава се ясната и наложителна нужда от намеса от страна на правителството на САЩ.
Докладът признава, че неговите виждания не задължително представляват тези на правителството на САЩ или на Държавния департамент. Въпреки това струва си да се отбележи, че правителството на САЩ изразява загриженост относно разпространението и сигурностните рискове, свързани с напредналата ИИ, както показва насоките от 2022 г. от Офиса на фонда за неразпространение и разоръжаване на Държавния департамент.
Изследователите от глобалния консорциум подчертават опасностите за сигурността в общността на напредналата ИИ. Докладът разкрива, че докато конкурентните налягания подтикват бързото развитие на ИИ, съображенията за безопасност и сигурност често остават на втори план. Това увеличава риска най-развитите системи на ИИ да бъдат откраднати и оръжиезирани срещу Съединените щати.
Тези заключения се добавят към нарастващата хорална аларма за съществените рискове, породени от ИИ. Високопоставени фигури като Илон Мъск и Джефри Хинтън изразиха загриженост относно потенциалните опасности на ИИ, включително риска от изчезване на хората. Бизнес лидери също изразиха опасенията си от разрушителния потенциал на ИИ.
Заключително, докладът на глобалния консорциум служи като ярко напомняне за рисковете за националната сигурност, представени от изкуствения интелект. Спешни мерки са необходими, за да се справим с тези заплахи и да се ограничат евентуалните катастрофи. От съществено значение е за правителството на САЩ, в сътрудничество с международни партньори, да отдели внимание на управлението и регулирането на новите технологии, за да се гарантира безопасно и сигурно бъдеще на човечеството.
The source of the article is from the blog hashtagsroom.com