Агентства разведки США осознают потенциал искусственного интеллекта (ИИ), но сталкиваются с проблемой обеспечения его безопасности. Офис директора национальной разведки сотрудничает с компаниями и колледжами, чтобы использовать преимущества быстро развивающейся технологии ИИ и выиграть конкуренцию с глобальными конкурентами, такими как Китай. Однако основным заботой является обеспечение того, чтобы ИИ не подвергал национальные секреты риску и не генерировал фальшивые данные.
Разведывательное сообщество признает преимущества использования больших языковых моделей, таких как ChatGPT от OpenAI, которые могут предоставлять подробные ответы на запросы и вопросы пользователей. Возможность обрабатывать огромные объемы информации имеет высокую ценность, но остаются сомнения в надежности этих моделей. Военные и разведывательные агентства США решительно стремятся использовать потенциал ИИ для конкуренции с Китаем, который намерен стать глобальным лидером в этой области.
ИИ также имеет потенциал значительно повысить производительность путем анализа огромных объемов контента и выявления закономерностей, которые могут быть неочевидны для людей. Нанд Мульчандани, технический директор Центрального разведывательного управления, считает, что ИИ может помочь масштабировать возможности человека и преодолеть преимущество Китая в штатном составе специалистов по разведке.
Однако уязвимость ИИ перед внутренними угрозами и внешними вмешательствами представляет значительные риски. Модели ИИ могут быть обмануты для раскрытия секретной информации или манипулированы, чтобы получить неавторизованную информацию от людей. Для решения этих проблем Intelligence Advanced Research Projects Activity запустила программу Bengal, которая направлена на смягчение потенциальных предвзятостей и токсичных результатов в ИИ. Цель программы Bias Effects and Notable Generative AI Limitations заключается в разработке механизмов защиты от «галлюцинаций», когда ИИ выдает фальшивую информацию или неправильные результаты.
Использование ИИ разведывательными агентствами США обусловлено его способностью выделять содержательную информацию из шума и подходить к решению проблем творчески. Однако обеспечение его безопасности и надежности является первостепенной задачей. С увеличением распространенности моделей ИИ необходимо их обучать без предвзятости и обеспечивать защиту от отравленных моделей.
В гонке за использование возможностей ИИ разведывательные агентства активно исследуют инновационные решения, одновременно берегаясь потенциальных рисков и уязвимостей.
The source of the article is from the blog publicsectortravel.org.uk