یک گزارش اخیر از مایکروسافت و OpenAI نشان داد که گروه‌های هکری از چین، ایران، کره شمالی و روسیه از مدل‌های بزرگ زبانی هوش‌مصنوعی (LLMs) برای افزایش کارآیی حملات سایبری خود استفاده می‌کنند. این گروه‌های متعلق به دولت از فناوری هوش مصنوعی برای بهتر فهمیدن جنبه‌های مختلف استفاده کرده، از فناوری ماهواره تا توسعه کدهای خبیث که می‌توانند از نرم‌افزارهای امنیتی عبور کنند.
به جای ارائه نقل قول مستقیم از گزارش، می‌توان خلاصه کرد که این گروه‌های هکری در حال فعالیت برای بررسی و آزمایش موفقیت استفاده از فناوری هوش مصنوعی هستند تا ارزش پتانسیل آن در عملیات خود را بسنجند و تدابیر امنیتی ممکن است برای غلبه بر آنها نیاز داشته باشند.
مایکروسافت و OpenAI به‌خصوص چهار گروه روسیه به نام برف گردان (استرونتیم)، کره شمالی به‌نام برگ مرمد (تالیوم)، ایران به‌نام فاحمه‌ی مرجانی (کوریوم) و چین به‌نام طوفان ذغالی (کرومیوم) و طوفان ماهی‌ماهی (سدیم) را شناسایی کرده‌اند. این گروه‌ها مدل‌های بزرگ زبانی را در حملات هک خود مورد استفاده قرار داده‌اند تا جهت‌گیری اطلاعات و بهبود استراتژی‌های سایبری خود را بهبود بخشند.
به‌عنوان مثال، هکرهای روسی از مدل‌های بزرگ زبانی برای درک توانایی‌های ماهواره و فناوری‌های راداری استفاده می‌کنند، همچنین کمک به انجام وظایف اسکریپت نویسی و جابجایی فایل می‌جویند. برگ مرمد کره شمالی از مدل‌های هوش مصنوعی برای بهره‌برداری از ضعف‌های نرم‌افزاری عمومی و بهبود تکنیک‌های مهندسی اجتماعی در کمپین‌های فیشینگ و اسپیرفیشینگ استفاده می‌کند. فاحمه‌ی مرجانی ایران از مدل‌های بزرگ زبانی برای اسپیرفیشینگ، توسعه کدها و عبور از برنامه‌های ضدویروس استفاده می‌کند.
به‌طور مشابه، طوفان ذغالی و طوفان ماهی‌ماهی چین از مدل‌های بزرگ زبانی برای اهداف متفاوتی مانند ساده‌سازی وظایف سایبری، ترجمه، شناسایی خطاهای کدنویسی و حتی توسعه کدهای بالقوه‌ی خبیث استفاده می‌کنند.
لازم است تا تاکید شود که مایکروسافت و OpenAI با غیرفعال کردن حساب‌ها و اموال مرتبط با این گروه‌های هکری به‌طور پیشگامانه واکنش نشان داده‌اند. اگرچه تاکنون هیچ حمله سایبری اصلی با استفاده از مدل‌های بزرگ زبانی شناسایی نشده است، اما علاقه هکرها به بهره‌برداری از فناوری هوش مصنوعی متعجب‌کننده نیست.
همانطور که سازمان‌ها به‌طور مداوم سعی در ایجاد راهبردهای موثرتر برای نفوذ به شبکه‌ها دارند، هوش مصنوعی و مدل‌های بزرگ زبانی آخرین ابزارهایی است که در توپخانه آنها موجود است. برای متخصصان امنیت سایبری بسیار مهم است که همواره بیدار باشند و یک گام جلوتر از این تهدیدهای در حال تکامل باشند.
مایکروسافت، یکی از بازیکنان قابل توجه در این حوزه، نیز از حملاتی مانند حمله اخیر که برف نیمه شب (نوبلیوم) روسیه به‌طور غیرمجاز به حساب‌های سرپرستان ارشد دسترسی پیدا کرد و ایمیل‌ها و اسناد حساس را دزدید، رنج برداشته است.
همانطور که چشم‌انداز سایبری ادامه می‌یابد، برای سازمان‌ها و افراد اولویت به خصوص راه اندازی و به‌روزرسانی امنیت سایبری است و در مورد جدیدترین پیشرفت‌ها و تهدیدات محتمل از دنیای هوش مصنوعی و هک اطلاعات دارای اطلاعات باقی بمانند.
The source of the article is from the blog lokale-komercyjne.pl