محققین دانشکده کسب و کار هاروارد به تازگی روشنایی به یک روند مضر پرداختند: افزایش تقلب‌های آنلاین پیشرفته، به ویژه حملات فیشینگ کمک شده توسط پیشرفت‌های هوش مصنوعی (AI). مطالعه آنها نشان می‌دهد که 60٪ نگران‌کننده شرکت‌کننده‌ها توسط ایمیل‌های فیشینگ تولید شده توسط AI گول زنده شدند، که نشان‌دهنده پیشرفت موفقیتی است که با ساخته‌شده‌های انسانی برابر است.
آشنایی با سرقت‌های فیشینگ از ارتباطات تقلبی، اغلب تخفیف شده به شکل ایمیل‌های معتبر یا پیام‌ها از منابع قابل اعتماد، برای گول زدن افراد به تایید اطلاعات شخصی حساس مانند جزئیات کارت اعتباری، پسوردها یا دیگر اطلاعات محرمانه است.
هر چند که فیشینگ تقریباً همان‌طور که اینترنت خودش طول کشید، محققین اکنون هشدار می‌دهند که مدل‌های زبان بزرگ به افزایش شدت آن اشاره دارند. این اشکال قدرتمند از AI بر روی حجم زیادی از داده‌های متنی تربیت شده‌اند و می‌توانند کل فرآیند فیشینگ را از ایجاد ایمیل و انتخاب هدف تا جمع‌آوری اطلاعات را اتوماتیک سازی کنند- به طور پتانسیل هزینه اجرایی فریب تا 95٪ را کاهش دهند.
مطالعه با یک پیش‌بینی ناراضی‌کننده آینده‌ای مهم‌در هر دو کیفیت و تعداد فعالیت‌های کلاهبرداری در آینده نزدیک را پیش‌بینی می‌کند. در همان زمان، محققان معترف می‌شوند که مدل‌های زبان بزرگ می‌توانند برای شناسایی و مبارزه با این تلاش‌های تقلبی استفاده شوند.
آزمون نشان داد که همه مدل‌های AI مساوی نیستند، با برخی از آنها حتی در تلاش‌های گنبدی فیشینگ به طور قابل توجهی در سرعت تشخیص انسانی باورکردی. این مدل‌ها همچنین پیشنهاد خردمندانه‌ای برای پاسخگویی پس از شناسایی دقیق ایمیل‌های فیشینگ ارائه می‌دهند.
در نهایت، برای جلوگیری از چنین کلاهبرداری‌هایی، کمیسیون بازرسی تجاری توصیه می‌کند که هرگز روی لینک‌ها از منابع ناشناخته در ایمیل‌ها یا پیام‌ها کلیک نکنید و ارتباطات مشکوک را به گروه کاری مبارزه با فیشینگ جلب کنید. با پیشرفت فناوری AI، تمییز بین ارتباطات معتبر و تلاش‌های فیشینگ ممکن است بدلیل چالش بیشتری که به افراد و کسب‌وکارها تحمیل شود، چالشی بیشتری شود.
سوالات و پاسخ‌های مهم:
س: فیشینگ‌های مبتنی بر AI چیست؟
ج: فیشینگ‌های مبتنی بر AI تلاش‌های تقلبی هستند که از مدل‌های زبان بزرگ و الگوریتم‌های یادگیری ماشین برای ساخت ایمیل‌ها یا پیام‌های فیشینگ قانع‌کننده استفاده می‌شود. این تقلب‌ها برای فریب گول خوردن گیرندگان به فاش کردن اطلاعات حساس با تقلید از ارتباطات معتبر طراحی شده‌اند.
س: چرا فیشینگ‌های مبتنی بر AI تهدید‌آمیزتر از فیشینگ‌های سنتی هستند؟
ج: فیشینگ‌های مبتنی بر AI به دلیل اینکه می‌توانند حجمی از داده‌ها را پردازش کنند تا پیام‌های بسیار شخصی و قانع‌کننده‌ای در یک مقیاس و سرعت ایجاد کنند که انسانها نمی‌توانند با آنها مسابقه کنند. این اتوماسیون هزینه را به طور قابل توجهی کاهش داده و کارایی اجرایی جنبه‌های فیشینگ شگفت‌انگیز را افزایش می‌دهد.
س: افراد و کسب‌وکارها چه می‌توانند برای محافظت در برابر حملات فیشینگ مبتنی بر AI انجام دهند؟
ج: برای محافظت در برابر حملات فیشینگ مبتنی بر AI، افراد و کسب‌وکارها باید اقدامات امنیتی پیشرفته مانند احراز هویت دوعاملی، آموزش آگاهی امنیت کارکنان، استفاده از فیلترینگ ایمیل و نرم‌افزارهای ضد-فیشینگ بکار برند و همچنین اطلاعات راجع به آخرین تاکتیک‌های فیشینگ را آگاه باشند.
چالش‌ها و اختلافات:
یک چالش قابل توجه در مبارزه با فیشینگ‌های مبتنی بر AI بهبود مداوم فناوری AI است، که می‌تواند منجر به فیشینگ‌های پیچیده و سخت‌تر به شناسایی شود. علاوه بر این، استفاده از AI در امنیت سایبری یک نوع مسابقه‌ای بین حمله‌کنندگان و مدافعان ایجاد می کند، که هر طرف از پیشرفت‌ها در AI برای اجرای یا جلوگیری از حملات بهره می‌برد.
یک اختلاف در عواقب اخلاقی توسعه مدل‌های قدرتمند AI وجود دارد که ممکن است به طور پتانسیل برای مصارف بد قابل استفاده منجر شود، مانند فیشینگ‌های تقلبی. در حال حاضر یک بحث در جریان است که چگونه باید توسعه AI را تنظیم کرد تا از سوءاستفاده جلوگیری و همچنین از نوآوری‌های مفید پرورش دهد.
مزایا و معایب:
مزایای ابزارهای امنیت سایبری مبتنی بر AI عبارتند از:
– افزایش کارایی در شناسایی و پاسخ به تلاش‌های فیشینگ.
– قابلیت تجزیه‌وتحلیل مجموعه داده‌های بزرگ برای الگوهایی که ممکن است انسانها نادیده بگیرند.
– کاهش خطاهای انسانی در تشخیص تهدیدات فیشینگ.
معایب شامل:
– سوء استفاده احتمالی از فناوری AI برای ایجاد طرح‌های فیشینگ متقن‌تر.
– دشواری افزایش شده برای کاربران متوسط بین فرق تعیین کردن ارتباطات معتبر و تقلبی.
– ممکن است بر اعتماد زیاد به ابزارهای AI، که ممکن است منجر به آسیب‌پذیری‌های جدید شود اگر AI بی‌دقت یا متأخر شود.
برای کسب اطلاعات بیشتر درباره مبارزه با فیشینگ و باز بودن به روزترین شیوه‌های امنیت آنلاین، به وب‌سایت‌های زیر مراجعه کنید:
– کمیسیون بازرسی تجاری (FTC)
– گروه کاری مبارزه با فیشینگ (APWG)
لطفا به یاد داشته باشید که به تازگی به‌روزرسانی دانش من، آدرس‌های اینترنتی ارائه شده برای سازمان‌های مربوطه صحیح هستند. همواره خوب است از اطمینان از امنیت کردن با تأیید آنکه آدرس‌های اینترنتی همان‌طور که استفاده می‌شوند تغییر نکرده‌اند و از پروتکل‌های امن (https یا مشابه) استفاده می‌کنند.
The source of the article is from the blog radardovalemg.com