OpenAI اقدام قاطعانه‌ای را برای حذف حساب‌های مرتبط با گروه‌های هک دولتی از روسیه، چین، ایران و کره شمالی که از چت‌بازی هوش‌مصنوعی خود یعنی ChatGPT برای اهداف مخرب استفاده می‌کردند، انجام داده است. این اقدام یک گام قابل توجه در حفظ سلامت و امنیت این پلتفرم است.
حساب‌های مرتبط با این گروه‌های تهدیدی، به نام‌های Forest Blizzard (روسیه)، Emerald Sleet (کره شمالی)، Crimson Sandstorm (ایران)، Charcoal Typhoon (چین) و Salmon Typhoon (چین) از ChatGPT برای فعالیت‌های مختلف مربوط به عملیات سایبری خود سوء استفاده می‌کردند. هکرها از قابلیت‌های ChatGPT برای انجام تحقیقات، بهینه‌سازی عملیات خود، افزایش تاکتیک‌های اجتنابی و جمع‌آوری اطلاعات حساس استفاده می‌کردند.
اگرچه نتایج OpenAI و تیم اطلاعات تهدید مایکروسافت افزایشی در بخش‌هایی از تهدیدهای ثابت مستدام مانند فیشینگ و مهندسی اجتماعی نشان داد، اما بیشتر فعالیت‌های مشاهده شده کاوشگرانه بودند. گروه‌های تهدید از ChatGPT برای مقاصد گوناگونی مانند تحقیق درباره فناوری‌های نظامی، تولید محتوای spear-phishing، رفع اشکال فن‌آوری و توسعه تکنیک‌های اجتنابی، استفاده می‌کردند.
لازم به ذکر است که هکرهای دولتی مذکور با استفاده از مدل‌های زبانی بزرگ، مستقیماً برنامه‌های ضدافزار یا ابزارهای سفارشی استخراج نمی‌کردند. بلکه، آنها به دنبال راهنمایی‌هایی بودند که برای وظایف سطح پایین‌تر مانند نکات اجتناب، اسکریپتنویسی و بهینه‌سازی عملیات فنی مورد استفاده قرار می‌گرفت.
OpenAI با همکاری تیم اطلاعات تهدید مایکروسافت، بلافاصله پس از دریافت اطلاعات حیاتی، عملیات لازم را در برابر این حساب‌های سوءاستفاده‌کننده انجام داد. حذف این حساب‌ها نشان دهنده تعهد سازمان به حفظ ایمنی و امنیت پلتفرم است.
با درک اینکه چگونه این عوامل تهدید پیشرفته از سیستم‌های هوش مصنوعی سوءاستفاده می‌کنند، OpenAI در کسب تجربیاتی ارزشمند از روندها و روش‌های ظاهر شده که ممکن است در آینده منجر به صدمه‌زدایی پلتفرم شود. این دانش، این سازمان را برای به‌طور مداوم تکامل و تقویت محافظ خود در برابر استفاده مخرب آماده می‌کند.
OpenAI با استفاده از فناوری‌های مانیتورینگ تخصصی، همکاری‌های صنعتی و تیم‌های متعهد به شناسایی الگوهای استفاده مشکوک تلاش می‌کند تا هکرهای حمایت شده توسط دولت را نظارت و مختل کند. پیوستگی OpenAI به امنیت و ایمنی نشانگر تعهد سازمان در ارائه یک پلتفرم هوش‌مصنوعی معتمد و انعطاف‌پذیر است.
بخش پرسش‌های متداول
The source of the article is from the blog japan-pc.jp