Стремежът на администрацията на Байдън за сигурност в областта на изкуствения интелект
В условията на нарастваща загриженост в Съединените щати във връзка със възможното злоупотребяване на напреднали изкуствени интелигенции (ИИ) от страни-адверсари като Китай и Русия, правителството на САЩ активно подхожда към прилагането на мерки за предпазване на своите технологии в областта на ИИ. Администрацията изработва планове за осигуряване на най-сложните модели на ИИ, които, способни да анализират големи количества текст и изображения, за да извличат информация и генерират съдържание, биха могли да бъдат злоупотребени с цел от кибер-атаки до разработването на мощно биологично оръжие.
Изникващите заплахи в ерата на ИИ
Една от основните опасности, която е открита, се отнася до deepfake-овете и кампаниите за дезинформация. Тъй като алгоритмите на ИИ стават все по-способни, произвеждайки не само фалшиви видеоклипове, но и изображения и аудио, те представляват предизвикателство в поддържането на границата между реалността и фикцията, по-специално в политически обвинения климат. Въпреки политиките срещу създаването на объркващо съдържание, инструменти на ИИ като тези на OpenAI и Microsoft могат да бъдат използвани за създаване на изображения, които могат да изкривят обществените перцепции, по-специално около важни демократични процеси като избори.
Оценка на ефективността на откриването на deepfake-ове
Водещите социални медийни платформи като Facebook, X (предишно Twitter) и YouTube работят за забрана и премахване на deepfake-овете, но техните ефективности остават различни. Забележителен случай е новинарски сайт, контролиран от китайското правителство, разпространяващ фалшиво твърдение за изграждането на биологично оръжие от Съединените щати в Казахстан, както е посочено в Оценката на заплахите към домашната сигурност за 2024 г. на Министерството на вътрешната сигурност.
Интелектуални загрижености и предпазни мерки
Американските разузнавателни общности и изследователи от мисловни центрове и академия изразяват нарастваща тревога от рисковете, които представляват чуждестранни актьори, познати с достъпа си до напредналите възможности на ИИ. Резултатите от изследвания, проведени от Gryphon Scientific и Rand Corporation, подчертават, че ИИ може да бъде използван за информиране и улесняване на създаването на биологично оръжие, което изисква засилени мерки за сигурност с цел предотвратяване на такива заплахи.
Подпомагане на иновациите при регулиране на ИИ
Бипартитна група законодатели представиха законодателство, насочено към даване възможност на администрацията на Байдън да наложи контрол върху износа на модели на ИИ, защитавайки ценните американски технологии. Този законодателен подвиг цели да балансира насърчаването на иновациите и избягването на строги регулации, които биха могли да спънат бъдещи пробиви в различни сфери, включително медицината, инфраструктурата, и националната сигурност, като същевременно се запазят технологичните постижения от попадане в ръцете на чужди конкуренти.
(Източник: Хина; Portal24)
Важността на защитата на технологиите на ИИ
В областта на ИИ, Съединените щати са световна сила, което толкува иновациите и води в развитието на съвременни технологии. Предпазването на тези активи от чуждестранни противници е от съществено значение, защото:
ИИ е технология с двоен характер: ИИ системите, предназначени за доброчестни цели, могат да бъдат преизползвани за военни и разузнавателни приложения. Двойният характер на ИИ добавя сложност към задачата по предпазване на тези технологии, докато се насърчава тяхното мирно използване.
Националната сигурност: Предизвикателствата на развитието на ИИ имат значителни последствия за националната сигурност. Състезанието за въоръжение с ИИ между нациите може да доведе до увеличени заплахи, включително сложни кибер-атаки и системи за автономни оръжия.
Икономическата конкурентоспособност: ИИ е в основата на бъдещия икономически растеж и конкурентоспособност. Поддържането на стратегическо предимство в тази сфера е важно за икономическото благосъстояние и създаването на работни места в Съединените щати.
За да се адресират гореспоменатите проблеми, правителството на САЩ разглежда опциите, като:
Контрол върху износа: Прилагането на контрол върху износа на технологии на ИИ може да предотврати противниците от придобиване на напреднали възможности на ИИ, но тези контроли трябва да бъдат внимателно проектирани, за да се избегне пречене на научното сътрудничество и технологичния прогрес.
Преглед на инвестициите: Тясното следене на чуждестранните инвестиции в индустриите, свързани с ИИ, може да помогне за предотвратяване на технологичен трансфер чрез корпоративни придобивания или други косвени средства.
Сигурност на изследованията: Усилията за осигуряване на изследователските среди срещу шпионаж, докато се поддържа отворено и колаборативно международно изследователско общество, са жизненоважни.
Предимства и недостатъци
Предимства:
– Предпазване на националната сигурност и запазване на конкурентното предимство в областта на ИИ.
– Предотвратяване на злоупотребата на технологиите на ИИ в области като военните действия и наблюдението.
– Пъдпомагане на разработването на етични приложения на ИИ.
Недостатъци:
– Възможност за прекомерно регулиране, което може да спре иновациите и икономическият растеж.
– Затруднения в разграничаването между добросъвестни и враждебни действия и злоупотреби.
– Риск от изолация от международната научна общност поради ограничителни контроли върху износа.
Ключови въпроси и предизвикателства
Как САЩ може да защити технологиите си на ИИ, без да спира иновациите? Разработването на рамки, които позволяват и сигурност, и сътрудничество е непрекъснато предизвикателство.
Какви мерки могат да гарантират, че контролите върху износа на ИИ са ефективни и не пречат на легитимните изследвания? Постигането на правилния баланс е трудно и изисква международно сътрудничество и ясни насоки.
Как САЩ може да запази водещата си позиция в областта на ИИ, докато се справя с етичните проблеми, свързани с напредналите технологии? Необходими са управленствени структури, които включват етични разглеждания в развитието на технологиите.
Контроверзи
Дебатът около сигурността на ИИ често включва балансирането между отворените научни изследвания и националната сигурност. Академичната и технологичната общност обикновено адвокират за по-малко ограничения с цел насърчаване на иновации, докато експертите по сигурност подчертават важността на предотвратяването на ценни технологии да бъдат злоупотребявани от противници.
За допълнителна информация относно развитието на ИИ и неговата сигурност, заинтересованите страни могат да посетят следните официални уебсайтове:
– Националната AI Инициатива, която надзирава американската стратегия за ИИ.
– Белият дом, за политики и обявления, свързани с националната сигурност и ИИ.
– Министерството на домашната сигурност, за информация относно оценките на заплахите, свързани с технологичните постижения.
The source of the article is from the blog newyorkpostgazette.com