اپن ای‌ای به منظور حفظ یکپارچگی و امنیت پلتفرم خود، از اکانت‌های مرتبط با گروه‌های هکری حمایت شده از دولت در روسیه، چین، ایران و کره شمالی جدا شده است. این گروه‌های تهدیدزا از ChatGPT، ربات بازیابی خود OpenAI، به منظور اهداف خبیثانه استفاده کرده بودند که خطر قابل ملاحظه‌ای برای امنیت سایبری به وجود می‌آورد.
این هکرها با نام‌های Forest Blizzard (روسیه)، Emerald Sleet (کره شمالی)، Crimson Sandstorm (ایران)، Charcoal Typhoon (چین) و Salmon Typhoon (چین)، از ChatGPT برای تقویت فعالیت‌های سایبری خود استفاده می‌کردند. با بهره‌گیری از قابلیت‌های ChatGPT، این افراد تهدیدزا در زمینه تحقیق، بهینه‌سازی عملیاتی، بهبود تاکتیک‌های اجتناب و جمع‌آوری اطلاعات حسا می‌کردند.
در عوض توسعه مستقیم نرم‌افزارهای مخرب یا ابزارهای استفاده سفارشی با استفاده از مدل‌های زبان بزرگ، هکرهای حمایت شده از دولت به ChatGPT در زمینه‌هایی مانند اسکریپت‌نویسی، راهنمایی اجتناب و بهینه‌سازی عملیات فنی از آن استفاده می‌کردند. فعالیت‌های آن‌ها عمدتاً در زمینه بررسی فناوری‌های نظامی، تولید محتوا برای spear-phishing، رفع عیب فناوری‌های وب و توسعه تکنیک‌های اجتناب بود.
اپن ای‌ای با همکاری تیم اطلاعات تهدید مایکروسافت، پس از دریافت اطلاعات حیاتی، به سرعت به این اکانت‌های سوءاستفاده واکنش نشان داد. حذف این اکانت‌ها نشانه بر تعهد صمیمانه اپن ای‌ای در حفظ یک محیط امن و پایدار است.
با درک تاکتیک‌های استفاده شده توسط این تهدیدکنندگان پیچیده برای سوءاستفاده از سامانه‌های هوش مصنوعی، اپن ای‌ای بینش‌های ارزشمندی درباره روندها و روش‌های جدیدی که ممکن است در آینده به پلتفرم تهدید سازنده باشند، به دست می‌آورد. این دانش، سازمان را مجهز به پیوسته کردن و تقویتاه ضروری برای جلوگیری از استفاده خبیثانه می‌کند و نشان از تعهد اپن ای‌ای در ارائه یک پلتفرم هوش مصنوعی قابل اعتماد و با امنیت می‌دهد.
اپن ای‌ای از تکنولوژی نظارت ویژه، همکاری‌های صنعتی و تیم‌های اختصاصی که بر روی شناسایی الگوهای استفاده مشکوک تمرکز دارند، برای نظارت و مخل حکومت‌های حمایت شده توسط اداها تهاجمی، استفاده می‌کند. این تدابیر پیشگیرانه، تعهد اپن ای‌ای را در اطمینان حاکمیت و امنیت پلتفرمش نشان می‌دهد.
به طور خلاصه، اقدامات سریع اپن ای‌ای در برابر گروه‌های هکری حمایت شده از دولت قدرت تماس وی با استفاده مکرر از ربات چت ChatGPT و به تایید تعهد این سازمان برای حفظ کاربران و راهبرد تعهد قوی جهت مبارزه با تهدیدات سایبری است که داشته و با حذف اکانت‌های مخرب، ارائه می‌دهد. این قدم، به اپن ای‌ای کمک می‌کند تا یک قدم جلوتر در مبارزه برابر تهدیدات سایبری بیفتد و آینده فناوری هوش مصنوعی را حفظ کند.
سؤالات متداول درباره اقدام اپن ای‌ای در برابر هکرهای حمایت شده از دولت
۱. چه چیزی از اپن ای‌ای سوءاستفاده کردن از اکانت‌های مرتبط با گروه‌های هکری حمایت شده از دولت را اعلام کرد؟
– اپن ای‌ای این اقدام را به منظور حفظ یکپارچگی و امنیت پلتفرم خود انجام داد بعد از اینکه یافت شد که این گروه‌های تهدیدزا از ربات چت هوش مصنوعی خود چت ChatGPT برای اهداف خبیثانه استفاده می‌کردند.
۲. گروه‌های هکری حمایت شده از دولت با چه کشورهایی رابطه داشتند؟
– این گروه‌های هکری با روسیه، چین، ایران و کره شمالی در ارتباط بودند.
۳. هکرهای تهدیدزا ChatGPT را برای چه موردی استفاده می‌کردند؟
– هکرها ChatGPT را برای انجام تحقیقات، بهینه‌سازی عملیاتی، بهبود تاکتیک‌های اجتناب و جمع‌آوری اطلاعات حساس جهت تقویت فعالیت‌های سایبری خود مورد استفاده قرار می‌دادند.
۴. آیا هکرها مستقیماً نرم‌افزارهای مخرب یا ابزارهای استفاده سفارشی را توسعه می‌دادند؟
– خیر، هکرهای حمایت شده از دولت برای وظایف سطح پایین‌تری مانند اسکریپت‌نویسی، راهنمایی در اجتناب و بهینه‌سازی عملیات فنی از ChatGPT کمک می‌جویدند.
۵. فعالیت‌های اصلی این تهدیدکنندگان چه موردی بود؟
– هکرها عمدتاً در زمینه بررسی فناوری‌های نظامی، تولید محتوا برای spear-phishing، رفع عیب فناوری‌های وب و توسعه تکنیک‌های اجتناب فعالیت می‌کردند.
۶. اپن ای‌ای و مایکروسافت چگونه به این اکانت‌های سوءاستفاده واکنش نشان دادند؟
– اپن ای‌ای با همکاری تیم اطلاعات تهدید مایکروسافت، پس از دریافت اطلاعات حیاتی، به سرعت عمل کرد و اکانت‌های سوءاستفاده را حذف کرد.
۷. این اقدام چه مزایایی برای اپن ای‌ای دارد؟
– با درک راهبردهای استفاده شده توسط این تهدیدکنندگان، اپن ای‌ای دانش ارزشمندی درباره روندها و روش‌های رو به رشدی که در آینده ممکن است به پلتفرم تهدید سازنده باشد به دست می‌آورد. این دانش به سازمان کمک می‌کند تا بهبودات مداومی را در مقابل استفاده خبیثانه اعمال کند.
۸. اپن ای‌ای از چه تدابیری برای نظارت و مخل حکومت‌های حمایت شده توسط اداها استفاده می‌کند؟
– اپن ای‌ای از تکنولوژی نظارت ویژه، همکاری‌های صنعتی و تیم‌های اختصاصی که بر روی شناسایی الگوهای استفاده مشکوک تمرکز دارند، برای نظارت و مخل حکومت‌های حمایت شده
The source of the article is from the blog agogs.sk