یک حادثه اخیر که در آن تصویر تیلور سویفت در یک ویدیوی دروغگو AI به چشم مخاطبان و شبکه‌های اجتماعی منتشر شده است، توجه به افزایش نگران‌کننده کلاهبرداری‌های آنلاین را به خود جلب کرده است. در این ویدیوی جعلی که در سایت‌های شبکه‌های اجتماعی منتشر شده است، سویفت به دسته‌بندی بدلیجات دیجیتالی Le Creuset جعلی تأییدیه داده و طرفدارانش را برای ارائه جزئیات بانکی خود و به امید برنده شدن دسته‌های دیگ دعوت می‌کند.
این کلیپ دروغین از یک صدای AI تولید شده است که شبیه سویفت به نظر می‌رسد و در آن می‌گوید: “سلام همگی، تیلور سویفت اینجاست. به دلیل خطای بسته‌بندی، نمی‌توانیم ۳۰۰۰ دسته بدلیجات دیجیتالی Le Creuset را بفروشیم. پس برای طرفداران وفادارم رایگان می‌دهم. اگر این آگهی را مشاهده می‌کنید، می‌توانید امروز یک دسته بدلیجات رایگان بگیرید – اما فقط توجه کنید که چند قانون وجود دارد.” سپس طرفداران را به ثبت جزئیات خود در فرم زیر ویدیو و پرداخت هزینه حمل‌ونقل کوچک دعوت می‌کند.
متأسفانه، کسانی که جزئیات کارت بانکی خود را ارائه و هزینه حمل‌ونقل را پرداخت کرده‌اند متوجه شدند که به طور مکرر مقابله را پذیرفته‌اند به گونه‌ای که توسط The New York Times گزارش وارد شده است. هنوز نامشخص است که چه کسی پشت این کلاهبرداری است، که قبل از آن که سریعاً حذف شود در گروه‌های مختلف Facebook منتشر شده است.
این حادثه بی‌توجهی به ویدیوهای deepfake و قابلیت کلاهبرداران سایبری در بهره‌برداری از افراد را برجسته می‌کند. پلتفرم‌های متن به گفتار، ساختن این ویدیوهای مظلوم را برای گروه‌های جنایتکاری ساده و ارزان می‌کنند. آن‌ها می‌توانند از صداهای تولید شده توسط AI و نرم‌افزارهای همزمان‌سازی لب استفاده کنند تا ویدیوهای واقع‌گرایانه‌ای بسازند که از محتوای واقعی به طور قابل توجهی تفاوت نمی‌کند.
به گزارش یک مطالعه توسط McAfee، یک به ۱۲ نفر در بریتانیا هدف قرار دادن سایبر‌جنایتکاران با استفاده از ویدیوهای deepfake برای تقلید از عزیزانشان شده‌اند و بیشترین تاثیر مالی را داشته‌اند. این مطالعه همچنین نشان می‌دهد که ۹۵٪ افراد قادر به تمایز بین یک صدای جعلی AI تولید شده و صدای واقعی نیستند.
این حادثه یادآور حساسیت و احتیاط در هنگام درگیری با تبلیغات یا هدایای آنلاین است. بررسی اصالت چنین ادعاهایی و ارائه اطلاعات شخصی فقط در سایت‌ها و پلتفرم‌های معتبر و رسمی حیاتی است.
The source of the article is from the blog crasel.tk