صنعت پلتفرم‌های رسانه‌ای اجتماعی، به ویژه فیسبوک و شرکت مادر آن، متا، تغییرات قابل توجهی را به منظور مقابله با محتوای دیجیتالی فریبنده شاهد است. با پیشرفت فناوری هوش مصنوعی (AI)، شیوع محتوای فریبنده به یک موضوع فوری تبدیل شده است.
تغییرات سیاست‌های جدید متا شامل معرفی برچسب‌های “Made with AI” خواهد بود، که به طور ژرف بر روی ویدیوها، تصاویر و صداهای تولید شده توسط AI و به اشتراک گذاشته شده در پلتفرم‌هایشان نمایان خواهد شد. این استراتژی برچسب‌گذاری با هدف فراهم کردن شفافیت و آگاهی بینندگان درباره فرآیند ایجاد محتوای دیجیتالی تغییر یافته است.
اجرای این سیاست‌های جدید به تدریج انجام خواهد شد، برچسب‌گذاری بر روی محتوای تولید شده توسط AI در ابتدای ماه مه 2024 قرار دارد. علاوه بر این، متا برنامه دارد که تا جولای، برداشت محتوا فقط بر اساس سیاست ویدیویی فریبنده خود را متوقف کند، که به مردم فرصت می‌دهد فرآیند خودافشایی را قبل از حذف زیرمجموعه کوچکتری از محتوای تقلبی، آشنا کند.
در خصوص شناسایی تصاویر تولید شده با استفاده از ابزارهای generative AI، متا قبلاً اعلام کرد که قصد دارد نشانه‌های نامرئی را درون فایل‌ها تعبیه کند. با این حال، هنوز تاریخ مشخصی برای آغاز این اقدام اعلام نشده است.
مهم است که این تغییرات سیاستی اصولاً برای محتوای به اشتراک گذاری شده در پلتفرم‌های فیسبوک، اینستاگرام و Threads صدق کنند، زیرا قوانین و مقررات متا برای سایر خدمات مانند واتس‌اپ و هدست‌های مجازی Quest متفاوت است.
زمان‌بندی این تغییرات سیاستی با انتخابات آینده، شامل انتخابات برگزیده ریاست جمهوری آمریکا در نوامبر، و همچنین انتخابات در کشورهایی چون هند مطابقت دارد. محققان صنعت فناوری نگرانی‌هایی را درباره تأثیرات پتانسیل فناوری‌های generative AI بر چشم‌انداز انتخابات بیان کرده‌اند. به دلیل استفاده قبلی از ابزارهای AI توسط کمپین‌های سیاسی، نیاز به راهنماهای واضح از تأمین‌کنندگان مانند متا و OpenAI حس می‌شود.
قوانین پیشین متا درباره مدیای تقلبی توسط هیئت نظارتی شرکت منتقد شده بودند، که آن‌ها را “پراکنده” توصیف کردند. این نقد پس از بررسی هیئت از یک ویدیوی تقلبی حاوی صحبت‌های غلطی از رییس‌جمهور آمریکا، جو بایدن، صورت گرفت. با وجود نادرستی‌ها، ویدیو در پلتفرم قابل دسترسی مانده بود.
در حال حاضر، سیاست متا درباره “محتوای تقلبی” اصولاً بر روی ویدیوهای تقلبی اشتباهی تولید شده توسط AI یا مواردی که صدا را تغییر می‌دهند، تمرکز دارد. با این حال، هیئت نظارتی توصیه کرد که این رهنمودها را برای شامل کردن محتوای غیر AI گسترش دهد، زیرا این محتوا ممکن است همان‌قدر فریبنده باشند. آن‌ها همچنین بر اهمیت اعمال این استانداردها بر روی محتوای تنها صوتی و ویدیوهایی که عمل‌های ساختگی را به تصویر می‌کشند، تأکید کردند.
سوالات متداول
The source of the article is from the blog aovotice.cz