اخیرا، شرکت تولید کننده تصاویر هوش مصنوعی محبوب “Midjourney” سیاستی جدید را به اجرا در آورده است که کاربران را از ساخت تصاویر جعلی از رئیس‌جمهور جو بایدن و مسبقا رئیس‌جمهور دونالد ترامپ ممنوع می‌کند. این تصمیم هنگام نزدیک شدن به انتخابات ریاست‌جمهوری آمریکا انجام شده است.
سی‌ای‌او دی، معاون ارشد Midjourney، در یک رویداد اخیر تاکید کرد که این محدودیت موقت بر روی ایجاد تصاویر گمراه‌کننده با استفاده از ابزار هوش مصنوعی ضروری است. هرچند جزئیات دقیق تغییرات سیاستی فاش نشد، او بر اهمیت جلوگیری از سوءاستفاده از این ابزار تأکید کرد.
تست سیاست جدید Midjourney توسط انتساب فشرده به عمل آورده شد که درخواست تصویری از “ترامپ و بایدن در حال دست دادن در ساحل” را داشت. این ابزار با یک هشدار “امتناع از دستور” با پیام “هشدار سوءاستفاده” به درخواست بعدی واکنش نشان داد.
این تصمیم باعث بروز تفاوت بین Midjourney و سایر ابزارهای ایجاد تصویر شد، زیرا این شرکت در ابتدای امسال به پیمان صنعتی فناوری دست نداد، که هدف آن مبارزه با deepfakes تولید شده توسط هوش مصنوعی بود. او واضح کرد که هدف Midjourney صحبت‌های سیاسی نیست، اما هنوز شرکت نیاز به رفع سوءاستفاده‌های ممکن از ابزار دارد.
بنا به گزارش مرکز مبارزه با نفرین دیجیتال، Midjourney کنترل‌های کمتری نسبت به سایر ابزارهای هوش مصنوعی ایجاد تصویر‌ها داشت وقتی به تولید تصاویری از شخصیت‌های سیاسی معروف می‌پرداخت. تصاویری که به دستور ناظرانی همچون جو بایدن و دونالد ترامپ تولید می‌شدند، نگرانی‌هایی در مورد گسترش ممکن اطلاعات غلط ایجاد می‌کردند.
اما تصمیم Midjourney برای ممنوع کردن این تصاویر ممکن است باعث حل این نقطه ضعف شود و آن را بیشتر با سایر ابزارهای ایجاد تصویری که در گزارش آزمون شده مطابقت بیاورد. مهم آن است که گزارش مشکلات عمده در ایجاد اطلاعات غلط در انتخابات در ابزارهای تصویرسازی چندگانه را بیان کرد.
کاربران Midjourney در انجمن‌های عمومی در Discord فعالیت می‌کنند که به آنها امکان مشاهده دستورات نوشتاری و تصاویر از طرف دیگران را می‌دهد. گروه Discord شرکت با عضویت فراوانی از بیش از 19 میلیون کاربر و ارائه‌دهنده یک پلت فرم برای بحث‌ها در مورد هوش مصنوعی و پیامدهای آن برای بشر عمل می‌کند.
سی‌ای‌او دی همچنین درباره آینده تکنولوژی deepfake پیش‌بینی داشت و پیش‌گویی کرد که تا سال 2028 تمامی نامزدهای سیاسی “چت‌بات‌های deepfake واقع‌بینانه” با نقاط مصنوعی تهیه شده خواهند داشت. این موضوع نگرانی‌هایی در مورد اطلاعات جعلی پیشرفته‌تری که ممکن است برای تلاش در تأثیر بر نظر عمومی استفاده شود، ایجاد می‌کند.
Midjourney که در سال 2020 تأسیس شد، خود را به عنوان یک آزمایشگاه تحقیقاتی مستقل معرفی کرده که مدیون وسایل جدید تفکر را بررسی می‌کند و توانایی‌های تخیلی بشر را گسترش می‌دهد. با وجود تعهد به اجازه دسترسی به یک دامنه گسترده از تصاویر، این شرکت به صورت فعال محتواها را نظارت می‌کند تا جلوی تولید مواد توهین‌آمیز و مضر را بگیرد.
با نزدیک شدن به انتخابات ریاست‌جمهوری آمریکا، اقداماتی که توسط ابزارهای تصویرسازی هوش مصنوعی مانند Midjourney به انجام می‌رسد، چالش مداومی را در برخورد با اطلاعات غلط و تضمین صحت گفتمان‌های سیاسی نشان می‌دهد.
سوالات متداول
The source of the article is from the blog macholevante.com