Midjourney، یک ابزار تصویرسازی هوش مصنوعی محبوب، به تازگی اعلام کرده است که به طور موقت از کاربران خود جلوگیری می‌کند تا تصاویر جعلی از رئیس‌جمهور جو بایدن و پیشین‌رئیس‌جمهور دونالد ترامپ ایجاد کنند. تصمیم چالش‌برانگیزی در هنگام انتخابات ریاست‌جمهوری آمریکا اعلام شده است و هدف از آن جلوگیری از سوءاستفاده از این ابزار برای اهداف سیاسی است. دیوید هولتز، مدیرعامل Midjourney، این اعلام را در یک رویداد دفتر دیجیتالی انجام، که مدیریت محتواهای مانند این را چالشی می‌داند و بلوک کردن یک اقدام موقت برای حل این مشکل است.
اگرچه شرکت جزئیات خاصی درباره تغییرات خود اعلام نکرده است، هولتز برجسته کرده است که هدف این است که برای افراد، سوء استفاده از ابزار هوش مصنوعی سخت‌تر شود. Midjourney به درخواست‌های بیشتری در این زمینه پاسخ نداده است.
گزارش‌ها نشان می‌دهند که این سیاست جدید قبلاً اجرا شده است، زیرا آزمون‌هایی که توسط خبرنگاران از The Associated Press انجام شده، منجر به اخطارهایی شد که به آنها موقع تلاش برای ایجاد تصاویر “ترامپ و بایدن دست‌دردست در ساحل”، منجر به هشدار “سوءاستفاده” شد.
این تحرک توسط Midjourney با تلاش‌هایی هم‌اهنگی داشت که بر روی ابزارهای هوش مصنوعی تولیدشده و ظرفیت آنها برای انتشار اطلاعات انتخابی. در یک مصاحبه اخیر، کالوم هود، ریاست تحقیقات در مرکز برای مقابله با اینترنتی Hate، اظهار کرد که Midjourney کمترین کنترل‌ها را بین ابزارهای تولید تصویر برجسته داشته است. وقتی به تولید تصاویر معقول از شخصیت‌های سیاسی مانند بایدن و ترامپ می‌رسد، گزارش گروه همچنین نشان می‌دهد که Midjourney بدترین نتایج را بین ابزارهای تست‌شده داشت و در 65 درصد از موارد شکست خورده و به پخش اطلاعات غلط انتخاب منتخب نظامی می‌کند.
ارزشیابی نمایید که تصمیم Midjourney به جلوگیری از ایجاد تصاویر جعلی از بایدن و ترامپ، یک ضعف قابل ملاحظه را اصلاح می‌کند نسبت به سایر تولیدکنندگان تصویر محبوب. با این حال، باید ببینیم که آیا این تغییرات سیاستی تأثیر دائمی بر پخش deepfakes سیاسی خواهد داشت.
به طور جالب، Midjourney از نحوه‌های مختلفی عمل می‌کند نسبت به سایر تولیدکننده‌های تصویر به این معنا که کاربران می‌توانند با استفاده از پلتفرم رسانه اجتماعی Discord، به یکدیگر اطلاعات و تصاویر خود را روی صفحات جهانی ببینند و با آنها تعامل کنند. این مشارکت عمومی منجر به گسترده شدن گروه Discord Midjourney بر روی پلتفرم با بیش از 19 میلیون نفر شده است. دیوید هولتز، مدیرعامل، بطور مداوم از این پلتفرم برای ساعات اداری هفتگی خود استفاده می‌کند، که در آن موضوعات گسترده‌ای مرتبط با هوش مصنوعی و آینده بشریت را بررسی می‌کند.
در یک بیان پیش‌بینی کننده، هولتز اعلام کرد که انتظار دارد چشم‌انداز تصاویر جعلی در سال‌های آینده به طور چشمگیری تکامل خواهد یافت. وی پیش‌بینی می‌کند که تا سال 2028، تمامی نامزدهای ریاست‌جمهوری یکسری “چت‌باتهای جعلی” با نکات گفتاری شبیه به واقعیت دارند. با وجود مسدود کردن موقت ایجاد تصاویر جعلی، هولتز هشدار داد که افراد مصمم به تولید deepfakes، جایگزینی متقن‌تر و قادر به انجام عملیات پیچیده‌تر از سیستم‌های موجود پیدا خواهند کرد.
Midjourney، که در سال 2020 تأسیس شده و نزدیک سانفرانسیسکو مستقر است، خود را به عنوان یک آزمایشگاه تحقیقاتی مستقل که تمرکز بر کاوش در فرآیندهای فکری جدید و گسترش توانایی‌های خلاقیت انسانی دارد، معرفی می‌کند. از زمان معرفی تصویرساز عمومی خود در سال 2022، این شرکت توجه قابل توجهی در فضای فناوری هوش مصنوعی تحولیافته‌ای داشته است.
سوالات متداول
چیست Midjourney؟
Midjourney یک ابزار تصویرسازی هوش مصنوعی است که توسط یک آزمایشگاه تحقیقاتی مستقل توسعه یافته است. این به کاربران امکان ایجاد تصاویر واقع‌نمایی بر اساس پرومپت‌ها مختلف می‌دهد.
چرا Midjourney ایجاد تصاویر جعلی بایدن و ترامپ را مسدود کرد؟
با انجام انتخابات ریاست‌جمهوری آمریکا، Midjourney تصمیم گرفت یک بلوک موقت ایجاد کند تا از سوءاستفاده از ابزار خود برای اهداف سیاسی جلوگیری کند و با پخش اطلاعات انتخابی برخورد کند.
Midjourney چگونه از سایر تصویرساز‌ها متمایز می‌شود؟
یک تفاوت کلیدی این است که Midjourney بر روی پلتفرم رسانه اجتماعی Discord فعالیت می‌کند، جایی که کاربران می‌توانند با یکدیگر پرومپت‌ها و تصاویر خود را عمومی روی پلتفرم مشاهده و تعامل داشته باشند.
آینده تصاویر جعلی چه خواهد بود؟
هولتز مدیرعامل Midjourney پیش‌بینی کرد که چشم‌انداز تصاویر جعلی به طور اداهنمایی ادامه خواهد داد و احتمالاً نامزدهای ریاست‌جمهوری از چت‌باتهای جعلی پیچیده‌تری در آینده استفاده خواهند کرد.
منبع: The Associated Press.
تعاریف
- هوش مصنوعی (AI): ارجاع دادن به شبیه‌سازی هوش انسانی در ماشین‌ها که برنامه‌هایی را برای فکر کردن و یادگیری مانند انسان‌ها برنامه‌ریزی می‌کند و به آنها امکان می‌دهد که وظایفی را انجام دهند که معمولاً نیازمند هوش انسانی هستند.
- تصویرساز: ابزار یا نرم‌افزاری که بر اساس ورودی‌ها یا پرومپت‌های خاص تصاویر تولید می‌کند.
- سوء استفاده: استفاده غیر صحیح یا غیر مجاز از چیزی است، در این مورد، به کاربرد ابزار تصویرسازی برای اهداف سیاسی که ممکن است اطلاعات انتخابی را منتشر کند اشاره دارد.
- میان‌رشته: عمل نظارت و کنترل محتوا و رفتار برای اطمینان از اینکه با استانداردها یا قوانین خاصی تطابق داشته باشد.
- ابزارهای AI تولیدی: ابزارهای هوش مصنوعی که محتوای جدید و اصلی مانند تصاویر را براساس ورودی‌ها یا پرومپت‌ها تولید می‌کنند.
- deepfakes: رسانه‌های مصنوعی که به طور مصنوعی، معمولاً به شکل ویدئوها یا تصاویر، افراد را نشان می‌دهد که چیزی را گفته یا انجام داده‌اند که در واقع هرگز گفته یا انجام نداده‌اند.
- Discord: یک پلتفرم رسانه اجتماعی است که به کاربران اجازه می‌دهد جوامع ایجاد کرده و ازطریق کانال‌های متنی، صوتی و تصویری با یکدیگر تعامل داشته باشند.
پیوندهای مرتبط:
- Midjourney: وبسایت رسمی Midjourney، ابزار تصویرسازی هوش مصنوعی.
- deepfakes: اطلاعات از لیگ ضادّشر و نتایج مرتبط با آنها.
- Discord: وبسایت رسمی Discord، پلتفرم رسانه اجتماعی که Midjourney در آن فعالیت می‌کند.
The source of the article is from the blog hashtagsroom.com