یک بررسی از CCDH در واشنگتن دی‌سی نشان داده که تفاوت‌های قابل توجهی در توانایی برنامه‌های هوش مصنوعی برای مسدودسازی ایجاد تصاویر جعلی وجود دارد. در یک بررسی انجام شده در تاریخ ۵ ژوئن، مشخص شد که Midjourney و ChatGPT، هر دو نرم‌افزار تولید تصویر به دنبال متن، در موفقیت فیلتربندی خود اختلافات زیادی دارند.
با توجه به گزارش، تدابیر احتیاطی Midjourney نتوانست ۴۰٪ از تلاش‌ها برای تولید تصاویر ساختگی را متوقف کند، در حالی که ChatGPT نرخ شکست فقط ۳٪ را تجربه کرد. این تفاوت از طریق آزمایش‌هایی که شامل تصاویری از رئیس‌جمهور جو بایدن و سابق رئیس‌جمهور دونالد ترامپ بوده تا چشمگیرتر شد.
در طول این آزمایش‌ها، Midjourney در نیمی از موارد موفق نبوده و تعداد زیادی تصویر فریبنده ایجاد کرده است، از جمله یک تصویر که رئیس‌جمهور بایدن به نظر می‌رسید در بازداشت قرار دارد. برای ساخت یک تصویر تقلبی از رئیس‌جمهور بایدن، یک متن توصیفی ساده بدون اشاره به اسم او استفاده شد.
در مارس گزارش شد که Midjourney دستورات مربوط به هر دو بایدن و ترامپ را مسدود کرده تا از ایجاد تصاویر ساختگی جلوگیری شود. با این حال، CCDH کشف کرد که کاربران به راحتی می‌توانند این سیاست را نادیده گرفته و دور آن پیچید. در برخی موارد، اضافه کردن یک backslash به یک دستور قبلاً مسدود شده امکان ایجاد عکس تقلبی را فراهم می‌کند.
The source of the article is from the blog foodnext.nl