Американските агенции за разузнаване приемат потенциала на изкуствената интелигентност (ИИ), но се справят с предизвикателството да я направят безопасна и сигурна. Офисът на директора на Националната разузнавателна агенция се партнира с компании и колежи, за да осигури мощта на бързоразвиващата се технология на ИИ с цел да превъзмогне глобални конкуренти като Китай. Въпреки това, гарантирането, че ИИ не компрометира национални тайни или не генерира фалшиви данни, е голямо безпокойство.
Разузнавателната общност признава ползите от използването на големи езикови модели като ChatGPT на OpenAI, които могат да предоставят подробни отговори на заявки и въпроси на потребителите. Възможността за обработка на големи количества информация е много ценна, но остават съмнения относно надеждността на тези модели. Военните и разузнавателните агенции на САЩ са решени да използват потенциала на ИИ, за да се конкурират с Китай, който си поставя за цел да стане глобален лидер в тази област.
ИИ също има потенциала да значително повиши производителността, като анализира големи обеми съдържание и идентифицира модели, които не са ясни за хората. Нанд Мулчандани, главен технолог на Централната разузнавателна агенция, вярва, че ИИ може да помогне да се увеличат възможностите на човека и да се преодолее предимството на Китай в информационното осигуряване.
Въпреки това, уязвимостта на ИИ пред вътрешни заплахи и външно намеса представлява значителни рискове. ИИ моделите могат да бъдат измамени да разкрият класифицирана информация или манипулирани, за да получат неоторизирана информация от хората. За да се справят с тези проблеми, Интелигентното агенство за напреднали проучвания и разработки е стартирало програмата Bengal, която се фокусира върху намаляване на потенциални предразсъдъци и отровни резултати в ИИ. Потресенията и забележителните ограничения на генеративните ИИ имат за цел да разработят мерки за предпазни от „халюцинации“, при които ИИ измисля информация или доставя неправилни резултати.
Използването на ИИ от американските агенции за разузнаване се основава на способността му да разграничава значима информация от суматоха и да намира творчески подходи за решаване на проблеми. Въпреки това, осигуряването на неговата сигурност и надеждност е от решаващо значение. С нарастващото присъствие на модели на ИИ, се налага да ги обучаваме без предразсъдъци и да ги предпазваме от отравени модели.
В надпреварата за използване на възможностите на ИИ, разузнавателните агенции активно изследват иновативни решения, като в същото време са бдителни относно потенциалните рискове и уязвимости.
ЧЗВ:
1. Каква е ролята на американските агенции за разузнаване във връзка с изкуствената интелигентност (ИИ)?
– Американските агенции за разузнаване приемат технологията на ИИ, за да получат конкурентно предимство върху глобални конкуренти като Китай. Те се партнират с компании и колежи, за да осигурят мощта на ИИ и да изследват неговия потенциал в различни области.
2. Какво е основното безпокойство относно ИИ в разузнавателната общност?
– Основното безпокойство е да се гарантира безопасността и сигурността на ИИ, за да се предотврати компрометиране на национални тайни или генериране на фалшиви данни.
3. Какво са големите езикови модели и защо са ценни за разузнавателните агенции?
– Големите езикови модели като ChatGPT на OpenAI са ИИ модели, които могат да предоставят подробни отговори на заявки и въпроси на потребителите. Те са ценни, защото могат да обработват големи количества информация и разузнавателните агенции могат да извличат значими изводи.
4. Каква е позицията на Китай в областта на ИИ?
– Китай е глобален конкурент, който си поставя за цел да стане лидер в областта на ИИ. Американските агенции за разузнаване имат за цел да използват ИИ, за да се конкурират с Китай и да поддържат предимство.
5. Как ИИ може да повиши производителността на агенциите за разузнаване?
– ИИ може да анализира големи обеми от съдържание и да идентифицира модели, които не са ясни за хората, това повишава производителността в разузнавателните операции.
6. Какви рискове има свързани с ИИ в разузнавателната общност?
– ИИ моделите могат да бъдат уязвими пред вътрешни заплахи и външни намеси, което подразбира рискове като разкриване на класифицирана информация или манипулиране на ИИ, за да се получи неоторизирана информация от хората.
7. Как Интелигентното агенство за напреднали проучвания и разработки се справя с безпокойството относно предразсъдъците и отровните резултати при ИИ?
– Интелигентното агенство за напреднали проучвания и разработки е стартирало програмата Bengal, която се фокусира върху намаляване на предразсъдъци и отровни резултати при ИИ. Програмата има за цел да разработи мерки за предотвратяване на „халюцинации“, при които ИИ измисля информация или доставя неправилни резултати.
8. Какво е значение от обучаването на ИИ модели без предразсъдъци и предпазването им от отровени модели?
– С разширяването на ИИ моделите, важно е да ги обучаваме без предразсъдъци, за да се гарантира честност и избягване на дискриминация. Предпазването от отровени модели е необходимо, за да се предотврати злонамерено манипулиране на функционалността на ИИ от злонамерени лица.
Дефиниции:
– Изкуствена интелигентност (ИИ): Симулация на човешка интелигентност в машини, програнирани да мислят и учат като хора.
– Големи езикови модели: ИИ модели, които са обучени на големи обеми текстови данни и могат да генерират подробни отговори на заявки или въпроси на потребителите.
– Вътрешни заплахи: Лица в рамките на организацията, които могат да злоупотребят със своето упълномощено достъп до системи и информация от злонамерени цели.
– Предразсъдъци: Систематични и несправедливи предпочитания или предразсъдъци, които могат да повлияят на решенията или резултатите на ИИ модел.
– Отровни резултати: Резултати, генерирани от ИИ модел, които съдържат вредно, обидно или предразсъдъчно съдържание.
Свързани връзки:
– Офисът на директора на Националната разузнавателна агенция
– OpenAI
– Централната разузнавателна агенция
– Интелигентният агенции за напреднали проучвания и разработки
The source of the article is from the blog trebujena.net