آخرین اعلامیه از سوی مایکروسافت که فعالان دولتی از کشورهای رقیب از هوش مصنوعی (AI) برای آموزش عوامل خود استفاده کرده‌اند، سوالاتی درباره سطح دسترسی عمومی به این فناوری قدرتمند به وجود آورده است. فیل سیجل، بنیان‌گذار موسسه بی‌صداقت برای آمادگی پیشرفته و شبیه‌سازی تهدیدها، نگرانی‌ها را درباره نیاز به تصمیم‌گیری بین یک سیستم باز که به راحتی قابل دسترسی برای عوامل خوب و بد است، یا رویکردی محدودتر، مطرح کرد.
هرچند OpenAI استراتژی‌ها برای مقابله با استفاده مخرب از ابزارهای خود ارائه کرد، از جمله نظارت و مخرب کردن عوامل مخرب، همکاری با سایر پلتفرم‌های AI و افزایش شفافیت عمومی، سیجل اظهار کرد که این اقدامات ممکن است در غیاب یک زیرساخت جامع موثر نباشند. او بانکداری را به عنوان یک مثال مطرح کرد و بیان کرد که مقررات و زیرساخت‌های موجود برای بانک‌ها سطحی از حفاظت را فراهم می‌کنند که در حال حاضر در اکوسیستم AI وجود ندارد.
همچنین مایکروسافت از اقدامات اضافی، از جمله اطلاع‌رسانی بین ارائه‌دهندگان خدمات AI برای شناسایی فعالیت مشکوک و داده، خواست. هر دو مایکروسافت و OpenAI قول دادند که سیستم‌های ارزشمند AI را حفاظت خواهند کرد و با MITRE همکاری کرده و اقدامات مقابله با عملیات سایبری قدرتمند AI-محور را توسعه می‌دهند.
اما، سیجل هشدار داد که این تلاش‌ها ممکن است تنها بخشی از فعالیت‌های خبیث را آدرس دهند، زیرا هکرها می‌توانند از روش‌ها و فناوری‌های مختلفی برای دستیابی به اهداف خود استفاده کنند. او بر جامعه اشاره کردن به نیاز به همکاری با نهادها و سازمان‌های دولتی که در زمینه امنیت سایبری تخصص دارند، را تاکید کرد.
چالش در پیدا کردن تعادل مناسب بین شفافیت و حفاظت داده است. در حالی که محدود کردن دسترسی عمومی به AI می‌تواند امنیت را بهبود بخشد، ممکن است نوآوری را محدود کند و مزایایی که AI می‌تواند ارائه دهد را مانع شود. ایجاد یک زیرساخت قوی و پیاده‌سازی مقررات برای اطمینان از استفاده مسئولانه و امن از فناوری AI بسیار حیاتی است.
در نهایت، تصمیم در مورد اینکه آیا ایالات متحده می‌خواهند به چه اندازه دسترسی عمومی به AI را مجاز کنند، سیاست‌های حفاظت داده را تعیین کرده و بر آینده نوآوری AI تاثیر خواهد گذاشت. این یک موضوع پیچیده است که نیازمند همکاری بین شرکت‌های فناوری، نهادهای دولتی و کارشناسان است تا تعادل مناسب بین شفافیت و امنیت برقرار کنند.
پرسش‌های متداول:
سوال: مایکروسافت به تازگی چه اعلامیه‌ای داشته است؟
پاسخ: مایکروسافت اعلام کرد که فعالان دولتی از کشورهای رقیب از هوش مصنوعی (AI) برای آموزش عوامل خود استفاده کرده‌اند.
سوال: چه نگرانی‌ای توسط فیل سیجل بنیان‌گذار مؤسسه بی‌صداقت برای آمادگی پیشرفته و شبیه‌سازی تهدیدها مطرح شده است؟
پاسخ: فیل سیجل نگرانی‌ها درباره سطح دسترسی عمومی به فناوری AI و نیاز به انتخاب بین یک سیستم بازی که برای هر دو فرعی خوب و بد به دسترس است یا یک رویکرد محدودتر را مطرح کرد.
سوال: چه استراتژی‌هایی از سوی OpenAI برای مقابله با استفاده مخرب از ابزارهای خود پیشنهاد شده است؟
پاسخ: OpenAI استراتژی‌ها ارائه شده از جمله نظارت و مخرب کردن فعالیت‌های مخرب، همکاری با سایر پلتفرم‌های AI و افزایش شفافیت عمومی می‌باشند.
سوال: چه مثالی توسط سیجل برای برجسته کردن نیاز به زیرساخت در اکوسیستم AI آورده است؟
پاسخ: سیجل اقتصاد بانکی را به عنوان یک مثال مطرح کرد و بیان کرد که زیرساخت‌ها و مقررات موجود برای بانک‌ها حفاظتی را فراهم می‌کنند که در حال حاضر در اکوسیستم AI وجود ندارد.
سوال: چه اقدامات اضافی توسط مایکروسافت خواستار شده است؟
پاسخ: مایکروسافت از اقدامات اضافی، از جمله اطلاع‌رسانی بین ارائه‌دهندگان خدمات AI برای شناسایی فعالیت مشکوک و داده، خواسته است.
سوال: بر چه همکاری‌هایی سیجل تأکید دارد؟
پاسخ: سیجل بر همکاری با نهادها و سازمان‌های دولتی که در زمینه امنیت سایبری تخصص دارند، تأکید دارد.
The source of the article is from the blog mgz.com.tw