آینده‌ای که در آن شبیه‌سازی‌های عمیق تهدیدی برای سلامتی دموکراسی به حساب می‌آید، ممکن است به نظر یک امکان دور و ناپدید باشد. با این حال، رویدادهای اخیر در سال 2024 نشان داده است که تدابیر موثر در برابر شبیه‌سازی‌های عمیق نه تنها ضروری هستند، بلکه قابل دستیابی نیز هستند. ظهور نرم‌افزارهای هوش مصنوعی پیشرفته با هزینه کم در اواخر سال 2022 توانایی ایجاد صدا، ویدئو و تصاویر واقع‌گرایانه را فراهم کرد که منجر به شیوع سریع محتوای شبیه‌سازی عمیق شد. شبیه‌سازی‌های سیاسی، از جمله اظهارات ساختگی رئیس جمهور بایدن، تصویر پردازی شده دونالد ترامپ و ویدئوهای تحریف شده از سیاستمداران مختلف، ریسک قابل توجهی برای فرآیند دموکراتیک به حساب می‌آمد.
تلاش‌ها برای تنظیم هوش مصنوعی و مقابله با شبیه‌سازی عمیق با پیشنهادهایی از سوی کاخ سفید، اتحادیه اروپا و شرکت‌های فناوری بزرگ آغاز شد. این تلاش‌ها بر روی قرار دادن نشان‌های آبنوسی بر روی محتوای هوش مصنوعی برای شناسایی منشأ مصنوعی آن تمرکز می‌کرد. با این حال، چالش‌هایی در تعیین نیازهای قانونی و مکانیزم‌های اجرایی برای این تدابیر به وجود آمد. نتیجتاً هیچ سیستمی با پذیرش گسترده پیاده‌سازی نشد.
اما همه چیز با برگزاری بزرگترین حمله هماهنگ شبیه‌سازی عمیق در تاریخ پس از انتخابات نوامبر 2024 تغییر کرد. سیلی از صدا، ویدئو و تصاویر جعلی که تقلب در انتخابات را نشان می‌دادند، پلتفرم‌های رسانه‌های اجتماعی را غرق کرد و تلاش‌های رسانه و دولت برای رد شدن این اطلاعات را با مشکل مواجه ساخت. این رویداد یک زنگ خطر بود که نیاز اساسی به اقدامات احراز اصالت در برابر شبیه‌سازی‌های عمیق را بیان کرد.
در اوایل سال 2026 تحولی رخ داد و یک گروه از روزنامه‌نگاران دیجیتال تشکیل اتحادیه FAC (Fact Authenticated Content) را به ارمغان آوردند. هدف این اتحادیه حفاظت از اعتبار رسانه‌های اصلی با تمرکز بر جلوگیری از ورود شبیه‌سازی‌های عمیق به گزارش‌های خبری بود. به جای اجبار یک سیستم آبنوسی برای همه محتوا، این اتحادیه FACStamp ارادتی را ایجاد نمود.
FACStamps نشانه‌های کوچکی هستند که نشان می‌دهند که محتوا تأیید شده است و شبیه‌سازی عمیق نیست. این نشان در زمان تهیه محتوا به طور خودکار در ویدئوها و تصاویر الصاق می‌شود و تضمین می‌کند که توسط هوش مصنوعی ایجاد نشده است. برای حفظ FACStamp بعد از ویرایش، محتوا باید به مرکز تأیید اصالت غیرانتفاعی FAC متصل شود که صحت ویرایش‌های انجام شده را تأیید می‌کند.
ابتدا FACStamps توسط روزنامه‌نگاران به کار گرفته شدند و سریعاً به حوزه‌های دیگری گسترش یافتند. فروشندگان اینترنتی FACStamps را در ویدئوها و تصاویر محصول پذیرفتند تا به مشتریان اعتماد داشته باشند. افراد فردی نیز برای فروش کالاها در اینترنت از FACStamps استفاده می‌کنند و اثبات می‌کنند تصاویر توسط هوش مصنوعی تغییر داده نشده‌اند. در رسانه‌های اجتماعی، FACStamps نمادی از اصالت محتوا هستند که تأیید می‌کند عکس‌ها و ویدئوها اصلی هستند.
حتی صنعت هوش مصنوعی نیز از FACStamps حمایت می‌کند، زیرا تماس بیش‌از‍حد با داده‌های تولید شده توسط هوش مصنوعی می‌تواند منجر به “انهدام مدل” در طول فرآیند آموزش شود. پروفایل‌های اپلیکیشن های آشنایی، تماس‌های تصویری و محتوای مؤثر تبلیغاتی به شدت به FACStamps برای حفظ اعتبار و ایجاد اعتماد نسبت به خود اعتماد می کنند.
در جنگ با اطلاعات گمراه‌کننده و شبیه‌سازی عمیق، ظهور FACStamps یک گام مهم به جلو را نشان می‌دهد. با پذیرش تدابیر احراز اصالت، افراد، شرکت‌ها و سازمان‌های رسانه‌ای می‌توانند تضمین کنند که محتوا قابل اطمینان و معتبر باقی می‌ماند و سلامت اطلاعات در دنیای دیجیتال همچنان حفظ می‌شود.
The source of the article is from the blog hashtagsroom.com