سازمانهای اطلاعاتی آمریکا در حالی که با چالش‌هایی برای اطمینان از امنیت و امانت هوش مصنوعی (Artificial Intelligence) روبرو هستند، از ظرفیت‌های بالقوه این فناوری بهره‌برداری می‌کنند. اداره رئیس سازمان اطلاعات ملی با شرکت‌ها و دانشگاه‌ها در تیمکاری همکاری دارد تا قدرت فناوری هوش مصنوعی در حال پیشرفت سریع را به خدمت بگیرد و به همین ترتیب نسبت به رقبای جهانی مانند چین برتری کسب کند. با این حال، تضمین اینکه هوش مصنوعی امن می‌باشد و اطلاعات محرمانه ملی را در خطر نمی‌اندازد و یا اطلاعات جعلی تولید نمی‌کند، مسئله‌ای اساسی می‌باشد.
بخش اطلاعاتی بهره‌برداری از مزایای استفاده از معیارهای بازتوسعه مانند ChatGPT OpenAI را که قادر است پاسخ‌ها و توضیحات جامعی را به پرسش‌های کاربر در اختیار بگذارد، تأیید می‌کند. قدرت پردازش حجم عظیم از اطلاعات ارزش بسیاری دارد، اما همچنان ابهاماتی درباره قابلیت اعتماد به این مدل‌ها وجود دارد. نیروهای مسلح ایالات متحده و سازمانهای اطلاعاتی تصمیم دارند از قدرت و استعداد هوش مصنوعی برای رقابت با چین استفاده کنند، چرا که چین هدف خود را برای تبدیل شدن به رهبر جهانی در این زمینه قرار داده است.
هوش مصنوعی همچنین ظرفیتی برای افزایش بهره‌وری دارد، زیرا می‌تواند حجم زیادی از محتوا را تجزیه و تحلیل کرده و الگوهایی را شناسایی کند که برای انسانها قابل رؤیت نباشد. نند مولچاندانی، مدیر فناوری سازمان اطلاعات و امنیت مرکزی (CIO)، معتقد است که هوش مصنوعی می‌تواند قابلیت‌های انسانی را بیشتر کند و از مزیت چین در استخدام افراد برای اطلاعاتی پیشی گیرد.
با این حال، آسیب‌پذیری هوش مصنوعی در برابر تهدیدهای درونی و دخل و تصرف خارجی خطرات قابل‌توجهی را به همراه دارد. مدل‌های هوش مصنوعی ممکن است به حرکت کردن اطلاعات تصنیف شده بیاندازند یا مورد تلاش قرار گیرند تا اطلاعات غیرمجازی از انسانها به دست آورند. برای پرداختن به این نگرانی‌ها، برنامه بنگال راه‌اندازی شده است، که با تمرکز بر کاهش تعارض‌های ممکن و خروجی‌های مضر در هوش مصنوعی، بر ضمانت‌ها در مقابل “وهمی‌سازی” و ارائه اطلاعات نادرست تمرکز می‌کند.
استفاده از هوش مصنوعی توسط سازمانهای اطلاعاتی آمریکا به دلیل توانایی تفکیک اطلاعات مهم از سر و صدا و چگونگی رویکرد خلاقانه به مسائل، در حال شدن است. با این حال، تأمین امنیت و قابلیت اعتماد آن امری بحرانی است. با افزایش استفاده از مدل‌های هوش مصنوعی، نیاز به آموزش آنها بدون تعصبات و برقراری امنیت در برابر مدل‌های مسموم، اجتناب ناپذیر است.
در رقابت برای بهره‌برداری از قابلیت‌های هوش مصنوعی، سازمانهای اطلاعاتی به دنبال راهکارهای نوآورانه هستند، در عین حال نسبت به خطرات و آسیب‌پذیری‌های محتمل هشدار داده و مراقبت می‌کنند.
سوالات متداول:
۱. نقش سازمانهای اطلاعاتی آمریکا درباره هوش مصنوعی چیست؟
– سازمانهای اطلاعاتی آمریکا از فناوری هوش مصنوعی برای رقابت با رقبای جهانی مانند چین بهره می‌برند. آنها با شرکت‌ها و دانشگاه‌ها همکاری می‌کنند تا قدرت هوش مصنوعی را به خدمت بگیرند و پتانسیل آن را در زمینه‌های مختلف بررسی کنند.
۲. چه نگرانی اصلی درباره هوش مصنوعی در جامعه اطلاعاتی وجود دارد؟
– نگرانی اصلی بهره‌گیری از هوش مصنوعی این است که امنیت و امانت آن را تضمین کند و از هیچ‌گونه نقض اطلاعات محرمانه ملی یا تولید داده‌های جعلی جلوگیری نماید.
۳. مدل‌های زبان بزرگ چیست و چرا برای سازمانهای اطلاعاتی ارزشمند هستند؟
– مدل‌های زبان بزرگ مدل‌های هوش مصنوعی هستند که بر اساس متن‌های بزرگ آموزش دیده‌اند و پاسخ‌های جامعی را به پرسش‌ها یا توضیحات کاربران ارائه می‌دهند. ارزشمند بودن آنها به دلیل قابلیت پردازش حجم عظیمی از اطلاعات است که سازمانهای اطلاعاتی را قادر می‌سازند برداشت‌های مهمی درباره آنها داشته باشند.
۴. جایگاه چین در زمینه هوش مصنوعی چیست؟
– چین به عنوان یک رقیب جهانی، هدف خود را برای تبدیل شدن به رهبر در زمینه هوش مصنوعی قرار داده است. سازمانهای اطلاعاتی آمریکا هدف خود را در زمینه رقابت با چین و حفظ مزیت در استفاده از هوش مصنوعی دارند.
۵. چگونه هوش مصنوعی می‌تواند بهره‌وری سازمانهای اطلاعاتی را افزایش دهد؟
– هوش مصنوعی قادر است حجم زیادی از محتوا را تجزیه و تحلیل کرده و الگوهایی را کشف کند که توسط انسانها قابل مشاهده نباشد، این امر باعث افزایش بهره‌وری در فعالیت‌های اطلاعاتی خواهد شد.
۶. خطرات مرتبط با هوش مصنوعی در جامعه اطلاعاتی چیست؟
– مدل‌های هوش مصنوعی ممکن است در معرض تهدیدات درونی و دخل و تصرف خارجی قرار بگیرد که از جمله خطرات مرتبط با آن می‌باشد دسترسی به اطلاعات دسته‌بندی شده یا تلاش برای استخراج اطلاعات غیرمجازی از انسانها است.
۷. همکاری فعالیت‌های پژوهشی پیشرفته در حوزه هوش مصنوعی در خصوص نگرانی‌ها درباره تعارضات و خروجی‌های مضر چگونه است؟
– Intelligence Advanced Research Projects Activity برنامه بنگال را برای کاهش تعارضات محتمل و خروجی‌های مضر در هو
The source of the article is from the blog newyorkpostgazette.com