Американські розвідувальні агентства досліджують потенціал штучного інтелекту (ШІ) і, одночасно, стикаються з викликом забезпечення його безпеки. Управління директора національної розвідки співпрацює з компаніями та коледжами, щоб використати можливості стрімко зростаючої технології ШІ і отримати перевагу над глобальними конкурентами, такими як Китай. Однак, основним завданням є забезпечення того, щоб ШІ не компрометував національні секрети та не генерував фальшиві дані.
Розвідувальна спільнота визнає переваги використання моделей з великим обсягом мови, таких як ChatGPT від OpenAI, які можуть надавати детальні відповіді на запити та питання користувачів. Здатність обробляти велику кількість інформації має велику цінність, але зберігаються сумніви стосовно надійності цих моделей. Військові та розвідувальні агентства США вирішили використовувати можливості ШІ для конкуренції з Китаєм, який зобов’язався стати глобальним лідером у цій галузі.
ШІ також має великий потенціал підвищити продуктивність, аналізуючи великі обсяги контенту та виявляючи закономірності, які можуть бути непомітними для людей. Нанд Мулчандані, головний технолог Центральної розвідувальної агентства, вважає, що ШІ може допомогти розширити можливості людини та протистояти перевазі Китаю в питаннях розвідки.
Однак, уразливість ШІ перед внутрішніми загрозами та зовнішнім втручанням становить значні ризики. Моделі ШІ можуть бути обмануті для розголошення класифікованої інформації або маніпулювати для отримання несанкціонованої інформації від людей. Для вирішення цих проблем Бюро спеціальних досліджень Агентства розвідувальних досліджень запустило програму Bengal, яка спрямована на зменшення потенційних упереджень та токсичних результатів ШІ. Програма “Bias Effects and Notable Generative AI Limitations” має на меті розробити засоби захисту від “галюцинацій”, коли ШІ фабрикує інформацію або надає неправильні результати.
Застосування ШІ американськими розвідувальними агентствами зумовлене його здатністю відрізняти цінну інформацію від шуму та креативно підходити до розв’язання проблем. Однак, забезпечення його безпеки та надійності є основним завданням. Зі зростанням поширення моделей ШІ необхідно навчати їх безупинно, без упереджень, і захищатися від отруєних моделей.
У гонитві за можливостями ШІ розвідувальні агентства активно досліджують інноваційні рішення, одночасно бути бджими стосовно можливих ризиків і вразливостей.
Часто задавані питання:
1. Яка роль американських розвідувальних агентств у відношенні до штучного інтелекту (ШІ)?
– Американські розвідувальні агентства використовують ШІ, щоб мати конкурентну перевагу перед світовими конкурентами, такими як Китай. Вони співпрацюють з компаніями та коледжами, щоб використовувати потенціал ШІ в різних областях.
2. Яка головна проблема, пов’язана з ШІ в розвідувальній спільноті?
– Головна проблема полягає у забезпеченні безпеки ШІ, щоб уникнути компрометації національних секретів та генерації фальшивих даних.
3. Що таке моделі з великим обсягом мови і чому вони цінні для розвідувальних агентств?
– Моделі з великим обсягом мови, такі як ChatGPT від OpenAI, це ШІ-моделі, які можуть надавати детальні відповіді на запити та питання користувачів. Вони цінні, оскільки можуть обробляти великі обсяги інформації, дозволяючи розвідувальним агентствам витягати цінні інсайти.
4. Яке місце займає Китай у галузі ШІ?
– Китай є глобальним конкурентом, який зобов’язався стати лідером у галузі ШІ. Американські розвідувальні агентства прагнуть використовувати ШІ, щоб конкурувати з Китаєм і зберігати перевагу.
5. Як ШІ може підвищити продуктивність розвідувальних агентств?
– ШІ може аналізувати великі обсяги контенту та виявляти закономірності, які можуть бути непомітними для людей, тим самим підвищуючи продуктивність розвідувальних операцій.
6. Які ризики пов’язані зі ШІ в розвідувальній спільноті?
– Моделі ШІ можуть бути вразливі до внутрішніх загроз та зовнішнього втручання, що створює ризики, такі як розкриття класифікованої інформації або маніпуляція ШІ для отримання несанкціонованої інформації від людей.
7. Як Бюро спеціальних досліджень Агентства розвідувальних досліджень реагує на проблему упереджень ШІ та токсичних результатів?
– Бюро спеціальних досліджень Агентства розвідувальних досліджень запустило програму Bengal, яка спрямована на зменшення упереджень та токсичних результатів ШІ. Програма фокусується на розробці засобів захисту від “галюцинацій”, коли ШІ фабрикує інформацію або надає неправильні результати.
8. Яка важливість навчання ШІ без упереджень та захисту від отруєних моделей?
– З огляду на загальне поширення моделей ШІ, важливо навчати їх без упереджень, щоб забезпечити справедливість та уникнути дискримінації. Захист від отруєних моделей необхідний для запобігання зловживанням зловмисниками функціональністю ШІ.
Визначення:
– Штучний інтелект (ШІ): Симуляція людського інтелекту в машинах, які здатні думати та вчитися, подібно до людей.
– Моделі з великим обсягом мови: ШІ-моделі, що навчаються на великій кількості текстових даних і можуть генерувати детальні відповіді на запити або питання користувачів.
– Внутрішні загрози: Фізичні особи у
The source of the article is from the blog motopaddock.nl