تقوم Midjourney AI Blocks بمنع إنشاء الصور المزيفة للرئيس جو بايدن والرئيس السابق دونالد ترامب، في خطوة لمنع إنشاء الصور المزيفة للرئيس جو بايدن والرئيس السابق دونالد ترامب، نفذ منتج الصور الذكية بالذكاء الاصطناعي الشهير Midjourney سياسة جديدة تمنع إنشاء مثل تلك الصور. أعلنت الشركة عن ذلك خلال فعالية ساعات المكتب الرقمية، موضحة أن القيود على إنشاء الصور هي إجراء مؤقت للحد من إساءة استخدام الأداة خلال الانتخابات الرئاسية الأمريكية.
قال الرئيس التنفيذي لـMidjourney، ديفيد هولز، إنه من الصعب فرض سياسات الاعتداء ولكنه أكد أن الشركة تهدف إلى جعلها أكثر صعوبة للمستخدمين لإساءة استخدام مولّد الصور. ولم يتم الكشف عن تفاصيل دقيقة حول تغييرات السياسة، ولكن الشركة تتخذ خطوات لمعالجة المسألة. وقد تواصلت وكالة الصحافة المتصلة Midjourney للحصول على تعليق إضافي، لكن لم يتلقى رد في وقت إعداد هذا التقرير.
عندما أجرت وكالة الصحافة المتصلة اختبارات على أداة الذكاء الاصطناعي لـ Midjourney بعد الإعلان، حاولت العديد من محاولات إنشاء صورة “ترامب وبايدن وهما يتصافحان على الشاطئ” أسفرت عن رسالة تحذير تفيد بحظر الطلب. وأثارت محاولة ثانية إنذاراً بسوء الاستخدام، مما يدل على تنفيذ حازم للسياسة الجديدة.
عبارة عن شركة صغيرة تضم 11 موظفًا فقط، اختارت Midjourney البقاء صامتة بشكل كبير في النقاش المحيط بأدوات الذكاء الاصطناعي الخلقية ودورها المحتمل في نشر الإشاعات الانتخابية. على عكس العديد من أدوات إنشاء الصور الرائدة الأخرى، لم تنضم Midjourney إلى مبادرة صناعية طوعية في فبراير لمكافحة إنشاء الفيديوهات العميقة التي تهدف إلى خداع الناخبين.
على الرغم من الإقرار بأن الخطاب السياسي ليس تركيز Midjourney عليه، أكد هولز على ضرورة وضع حدود لمنع سوء استخدام الأداة. أصدر مركز مكافحة الكراهية الرقمية تقريرًا في وقت سابق من هذا الشهر يشير إلى أن مولد الصور في Midjourney قد تم استخدامه لإنتاج صور يمكن أن تدعم الإشاعات السياسية أو الادعاءات الكاذبة بشأن احتيال الانتخابات. كما أبرز التقرير نقص التحكم في Midjourney مقارنة بأدوات أخرى، مما يجعلها أكثر عرضة للتلاعب.
من الضروري معالجة قضية الافتراض الكاذب الناتج عن الذكاء الاصطناعي، وخاصة خلال الانتخابات. قرار Midjourney بتقييد إنشاء الصور المزيفة للشخصيات السياسية مثل بايدن وترامب خطوة كبيرة نحو تقليل انتشار المحتوى المُشوّه. ومع ذلك، من المهم ملاحظة أن لدى أدوات الإنشاء الأخرى أيضًا تحديات في منع إنشاء الصور الضلعة، كما هو مؤكد في التقرير الصادر عن مركز مكافحة الكراهية الرقمية.
الأسئلة الشائعة
- ما هو Midjourney؟
- لماذا بدأت Midjourney بحجب إنشاء الصور المزيفة لبايدن وترامب؟
- كيف تختلف Midjourney عن غيرها من مولدات الصور؟
- ما هي المخاوف المحيطة بالافتراض الكاذب المولد بالذكاء الاصطناعي خلال الانتخابات؟
- ما هي التحديات المستقبلية في مكافحة الافتراض الكاذب المولد بالذكاء الاصطناعي؟
Midjourney هو مولد صور بالذكاء الاصطناعي يتيح للمستخدمين إنشاء صور مختلفة استنادًا إلى الإرشادات المعطاة. تصف الشركة نفسها بأنها معمل أبحاث مستقل يكشف عن وسائط التفكير الجديدة ويوسع قدرات الخيال لجنس الإنسان.
نفذت Midjourney هذه السياسة لمنع إساءة استخدام مولد الصور الخاص بها خلال الانتخابات الرئاسية الأمريكية. تهدف الشركة إلى جعلها أكثر صعوبة بالنسبة للمستخدمين لإنشاء صور مضللة يمكن أن تسهم في نشر الإشاعات الانتخابية.
جانب فريد من نوعه في Midjourney هو منتداها العام على منصة وسائل التواصل الاجتماعي Discord، حيث يمكن للمستخدمين رؤية تعليمات بعضهم البعض والصور. تُعقد Midjourney أيضًا ساعات مكتبية أسبوعية على Discord، مما يتيح للمحادثات المفتوحة حول الذكاء الاصطناعي والمستقبل.
يشكل الافتراض الكاذب المولد بالذكاء الاصطناعي خطرًا كبيرًا خلال الانتخابات حيث يمكنه تلاعب الرأي العام ونشر الأكاذيب. الشركات مثل Midjourney وغيرها تلعب دورًا حيويًا في التخفيف من هذه المخاطر من خلال تنفيذ سياسات وتقنيات لمنع إنشاء وانتشار المحتوى المضلل.
مع تقدم التكنولوجيا الذكاء الاصطناعي، ستستمر التحديات في مكافحة الافتراض الكاذب المولد بالذكاء الاصطناعي. سيتطلب الأمر جهودًا مستمرة وتعاونًا وتطوير سياسات شاملة داخل الصناعة لضرب توازن بين تشجيع المستخدمين على استكشاف الإمكانات الإبداعية لأدوات الذكاء الاصطناعي ومنع إساءة استخدامها.
للمزيد من المعلومات، يرجى زيارة موقع الويب لـMidjourney.
ملاحظة: يمكن العثور على المصدر الأصلي للمقال هنا.
The source of the article is from the blog publicsectortravel.org.uk