هوش مصنوعی (AI) به سرعت صنایع مختلف را تغییر داده و فناوری را انقلابی کرده است. با این حال، پیشرفت آن نیز باعث ظهور پدیده‌ای نگران‌کننده به نام «دیپ‌فیک‌ها» شده‌است که توسط هوش مصنوعی، رسانه‌های تلفیقی ایجاد یا تغییر می‌کنند تا بینندگان را فریب دهند. به عنوان واکنش به این مسئله نگران‌کننده، شرکت فیس‌بوک (متا) اعلام کرده‌است که از ماه مه، شروع به بر چسب زدن تولیدات چندرسانه‌ای توسط هوش مصنوعی خواهد کرد.
بر چسب زدن تولیدات چندرسانه‌ای توسط متا به منظور اطمینان بخشی به کاربران و دولت‌ها در مورد خطرات پیدایشی دیپ‌فیک‌ها انجام شده است. به جای حذف رسانه‌های تلفیقی که مقرری خود را نقض نمی‌کنند، متا به بر چسب زدن و ارائه زمینه محتوایی برگزیده است. این رویکرد به دنبال تعادل بین حفظ آزادی بیان و برخورد با نگرانی رو به رشد اطراف رسانه‌های تلفیقی است.
در چارچوب سیستم جدید بر چسب زدن متا، محتواهای تشخیص داده شده به عنوان “تولید شده با هوش مصنوعی” علامت‌گذاری خواهند شد تا کاربران بتوانند رسانه‌ای که با استفاده از هوش مصنوعی ایجاد یا تغییر یافته را تشخیص دهند. همچنین، محتوایی که با ریسک بالایی احتمالاً در انطباق با عموم گمراه می‌کند، علامت برجسته‌تری خواهد گرفت. این شفافیت و زمینه اضافی به متا امیدوار است که به صورت موثر به مسائل دیپ‌فیک‌ها بپردازد.
هرچند که کارشناسان هشدار داده‌اند که در حالی که تشخیص محتوای هوش مصنوعی یک گام در جهت صحیح است، ممکن است فرصت‌های تخلفی در سیستم وجود داشته باشد. به طور مثال، نرم‌افزارهای منبع‌باز ممکن است همواره از تکنیک‌های آب‌نشان‌گذاری ترجیح‌داده شده توسط بازیکنان بزرگتر هوش مصنوعی استفاده نکنند. این تضاد ممکن است تأثیر موثری بر روی کارایی سیستم بر چسب زدن داشته باشد.
راه‌اندازی سیستم بر چسب زدن متا در دو مرحله انجام خواهد شد، با آغاز بر چسب زدن محتوای تولید شده با هوش مصنوعی از ماه می سال 2024. حذف رسانه‌های تلفیقی تنها بر اساس سیاست قدیم در ماه جولای متوقف خواهد شد. طبق استاندارد جدید، محتوای تولید شده با هوش مصنوعی تا زمانی که مقرری دیگر را نقض نکند، مانند محتوای حاوی گفته‌های توهین‌آمیز یا دخالت در رأی‌گیری، بر روی پلتفرم باقی خواهد ماند.
نیاز به شفافیت و مسئولیت‌پذیری در مورد تولیدات چندرسانه‌ای توسط هوش مصنوعی به طور چشمگیری اهمیت پیدا کرده‌است. نمونه‌های اخیر دیپ‌فیک‌های قانع‌کننده نگرانی‌ها درباره احتمال سوءاستفاده از فناوری هوش مصنوعی برای اهداف دزدینه‌گری را افزایش داده‌اند. پاسخ متا به این نگرانی‌ها نشانگر تعهدی به رفع مشکل است در حالی که تعادل بین آزادی بیان و حفظ حقوق کاربران را حفظ می‌کند.
همانطور که هوش مصنوعی به تدریج پیش می‌رود، برای جامعه بسیار مهم است که با گسترش و استفاده از استراتژی‌های محافظتی در برابر سوءاستفاده از این تکنولوژی قدرتمند سازگار شود. شفافیت، همکاری میان بازیکنان صنعتی و مشارکت سازمان‌های نظارتی اساسی خواهد بود در حفظ صداقت و فروتنی منابع دیجیتال ما.
سوالات متداول (FAQ)
The source of the article is from the blog elektrischnederland.nl