تم تنفيذ تصريح Midjourney, المعروف بكونه مولد صور بالذكاء الاصطناعي شهير، لحظر مستخدميه من إنشاء صور مزيفة للرئيس جو بايدن والرئيس السابق دونالد ترامب. يأتي هذا القرار بينما تقترب الانتخابات الرئاسية في الولايات المتحدة الأمريكية.
وفي حدث العمل الرقمي الأخير، أعرب الرئيس التنفيذي لشركة Midjourney ديفيد هولز عن الحاجة لمعالجة قضايا تتعلق بالانتخابات من خلال قيود مؤقتة على إنشاء صور مضللة باستخدام الأداة الذكاء الاصطناعي. وعلى الرغم من أن التفاصيل الدقيقة للتغييرات في السياسة لم يتم الكشف عنها، إلا أن هولز أكد على أهمية منع سوء استخدام الأداة.
تم اختبار سياسة Midjourney الجديدة من قبل وكالة الصحافة المرتبطة، التي طلبت صورة “ترامب وبايدن يصافحان على الشاطئ”. ردت الأداة بتحذير “تم اكتشاف الترويج المحظور” تلته إنذار “سوء الاستخدام” للمحاولة التالية.
هذه الخطوة تميز Midjourney عن أدوات إنشاء الصور الرائدة الأخرى، حيث لم تنضم الشركة إلى اتفاقية صناعة التكنولوجيا الطوعية في وقت سابق من هذا العام بهدف محاربة التركيبات العميقة الناتجة عن الذكاء الاصطناعي. ووضح هولز أن غرض Midjourney ليس الخطاب السياسي، لكن الشركة تدرك لازمة معالجة سوء استخدامها المحتمل.
وفقًا لتقرير صادر عن مركز مكافحة الكراهية الرقمية، كانت لدى Midjourney قواعد تحكم أقل مقارنة بأدوات إنشاء الصور الذكية الأخرى عندما يتعلق الأمر بإنشاء صور لشخصيات سياسية معروفة. تم إنتاج صور للمرشحين مثل جو بايدن ودونالد ترامب بشكل مقنع من قبل Midjourney، مما أثار مخاوف بشأن انتشار الأخبار الكاذبة المحتمل.
ومع ذلك، قد يساعد قرار Midjourney بحظر مثل هذه الصور في معالجة هذا النقص وتوجيهها أكثر نحو أدوات إنشاء الصور الأخرى التي تم اختبارها في التقرير. يجدر بالذكر أن التقرير أظهر مشاكل عامة في إنشاء تضليل الانتخابات بين عدة أدوات إنشاء صور.
تعمل جماعة مستخدمي Midjourney في المنتديات العامة على Discord، مما يتيح للمستخدمين رؤية الترويجات المكتوبة والصور من الآخرين. يحتوي مجموع Discord للشركة على عضوية ضخمة، تصل إلى أكثر من 19 مليون مستخدم، ويعد منبرًا للنقاش حول الذكاء الاصطناعي وتداعياته على البشرية.
كما توقع هولز أيضًا عن مستقبل تكنولوجيا الصوت والفيديو المزيفة، متوقعًا أنه بحلول عام 2028، ستكون لدى جميع المرشحين السياسيين “روبوتات دردشة فائقة التشابه” تبدو حقيقية مع نقاط حديث محاكاة. وهذا يثير مخاوف بشأن الإمكانية الكبيرة للمحتوى المزيف المتقدم الذي يمكن استخدامه لتلاعب الرأي العام.
تأسست شركة Midjourney في عام 2020، وتقدم نفسها كمعمل أبحاث مستقل يستكشف وسائط جديدة للفكر ويوسع القوى الخيالية للإنسانية. على الرغم من التزامها بالسماح بمجموعة واسعة من خلق الصور، إلا أن الشركة تقوم بمراقبة المحتوى بنشاط لمنع إنتاج المواد الجارحة والضارة.
مع اقتراب الانتخابات الرئاسية الأمريكية، تبرز الإجراءات التي تتخذها أدوات الذكاء الاصطناعي لإنشاء الصور مثل Midjourney التحديات المستمرة لمكافحة التضليل وضمان نزاهة الحوار السياسي.
الأسئلة الشائعة
The source of the article is from the blog kunsthuisoaleer.nl