تعتزم ميتا بلاتفورمس، الشركة الأم لفيسبوك وإنستغرام، كشف الصور المنشأة بواسطة خدمات الذكاء الاصطناعي المقدمة من شركات أخرى ووضع علامات عليها. تهدف الشركة إلى استخدام وسوم غير مرئية مضمنة في ملفات الصور للتمييز بين الصور الفوتوغرافية الحقيقية والمحتوى المنشأ رقمياً. سيتم تطبيق هذا النظام التسمية على أي محتوى يحمل الوسوم ويتم مشاركته على منصات ميتا.
تمثل هذه المبادرة في وضع العلامات خطوة للتصدي لمشكلة واسعة النطاق المتمثلة في المحتوى المضلل والمزيف الذي يتم إنتاجه بواسطة تقنيات الذكاء الاصطناعي للإنتاج. تتمتع هذه التقنيات بالقدرة على إنشاء صور تبدو واقعية بناءً على إشارات بسيطة، مما يثير مخاوف بشأن الأضرار المحتملة المرتبطة باساءة استخدامها. تعتبر مبادرة التسميات من ميتا جزءًا من حركة أكبر داخل صناعة التكنولوجيا لترسيخ المعايير والتخفيف من الآثار السلبية للذكاء الاصطناعي.
عبر نيك كليج، رئيس شؤون ميتا العالمية، عن ثقته في قدرة الشركة على وضع العلامات على الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي بشكل موثوق. ومع ذلك، أقر بتعقيد تطوير أدوات مماثلة للمحتوى الصوتي والمرئي. في حين أن التكنولوجيا المتعلقة بوضع علامات على الصوت والفيديو لم تكتمل بعد بشكل كامل، يعتزم ميتا أن يطلب من الأفراد وضع علامات على محتوى الصوت والفيديو المعدل من قبلهم بأنفسهم، مع فرض عقوبات على عدم الامتثال.
يجدر بالذكر أن مبادرة ميتا للتسميات لا تمتد حاليًا إلى النصوص المكتوبة التي يتم إنشاؤها بواسطة أدوات الذكاء الاصطناعي مثل ChatGPT. أكد كليج أنه لا يوجد حاليًا آلية صالحة لتسمية مثل هذا المحتوى. بالإضافة إلى ذلك، لا يزال غير واضح ما إذا كانت ميتا ستضع علامات على محتوى الذكاء الاصطناعي المنشأ المشارك على خدمتها للرسائل المشفرة، واتساب.
أدى الضغط الأخير الذي واجهته سياسة ميتا بشأن مقاطع الفيديو المزيفة المضللة من قبل لجنة الإشراف المستقلة التابعة للشركة إلى اعتراف كليج بالحاجة إلى تحسين الإجراءات. وقد أوصت اللجنة بوضع علامات عوضًا عن إزالة مثل هذا المحتوى. ووافق كليج على تقييم اللجنة، مؤكدًا أن سياسته الحالية لم تعد مناسبة بناءً على زيادة وجود المحتوى الاصطناعي والهجين. من خلال إقامة شراكة للتسميات مع شركات تكنولوجيا أخرى، تهدف ميتا إلى إظهار التزامها بمعالجة هذه المخاوف.
في الختام، تشكل قرار ميتا بلاتفورمس بوضع علامات على الصور المنشأة بواسطة الذكاء الاصطناعي خطوة هامة نحو مكافحة التضليل وتعزيز الشفافية على منصاتها. في حين يواصل قطاع التكنولوجيا مواجهة التحديات التي يطرحها تقنيات الذكاء الاصطناعي للإنتاج، تصبح الجهود التعاونية مثل مبادرة العلامات هذه أمرًا بالغ الأهمية لتحديد استخدام الذكاء الاصطناعي المسؤول.
الأسئلة الشائعة:
س: ما هي ميتا بلاتفورمس؟
ج: ميتا بلاتفورمس هي الشركة الأم لفيسبوك وإنستغرام.
س: ما هو خطة ميتا فيما يتعلق بالصور المنشأة بواسطة الذكاء الاصطناعي؟
ج: تخطط ميتا لكشف ووضع علامات على الصور المنشأة بواسطة خدمات الذكاء الاصطناعي التي تقدمها شركات أخرى. وسوف تستخدم وسومًا غير مرئية في ملفات الصور للتمييز بين الصور الفوتوغرافية الحقيقية والمحتوى المنشأ رقميا.
س: لماذا تقوم ميتا بتنفيذ هذا النظام التسمية؟
ج: تهدف ميتا إلى معالجة مشكلة واسعة النطاق المتمثلة في المحتوى غير الدقيق والمزيف الذي يتم إنتاجه بواسطة تقنيات الذكاء الاصطناعي للإنتاج.
س: ما هي المخاوف التي تثيرها تقنيات الذكاء الاصطناعي للإنتاج؟
ج: تتيح تقنيات الذكاء الاصطناعي للإنتاج القدرة على إنشاء صور تبدو واقعية استجابة لإشارات بسيطة، مما يثير مخاوف بشأن الأضرار المحتملة المرتبطة باستخدامها بطرق خاطئة.
س: هل يثق ميتا في قدرتها على وضع العلامات على الصور المنشأة بواسطة الذكاء الاصطناعي؟
ج: نعم، أعرب نيك كليج، رئيس شؤون ميتا العالمية، عن ثقته في قدرة الشركة على وضع العلامات على الصور المنشأة بواسطة الذكاء الاصطناعي بشكل موثوق.
س: هل يتم توسيع نظام العلامات إلى محتوى الصوت والفيديو؟
ج: حاليًا، التكنولوجيا المتعلقة بوضع العلامات على المحتوى الصوتي والفيديو لم تنضج بعد بشكل كامل. تخطط ميتا لطلب من الأفراد وضع علامات على محتوى الصوت والفيديو المعدل من قبلهم بأنفسهم، ولكنها ليست لديها أدوات لوضع العلامات تلقائيًا على مثل هذا المحتوى.
س: هل ستضع ميتا علامات على محتوى الذكاء الاصطناعي المنشأ المشارك على واتساب؟
ج: لا يزال غير واضح ما إذا كانت ميتا ستضع علامات على محتوى الذكاء الاصطناعي المنشأ المشارك على خدمتها للرسائل المشفرة، واتساب.
س: لماذا قررت ميتا تنفيذ مبادرة العلامات؟
ج: واجهت ميتا انتقادات بشأن سياستها فيما يتعلق بمقاطع الفيديو المزيفة المضللة، مما أدى إلى الحاجة إلى تحسين الإجراءات. وقد أوصت لجنة الإشراف المستقلة التابعة للشركة بوضع علامات عوضًا عن إزالة مثل هذا المحتوى، ووافقت ميتا على هذا التقييم.
المصطلحات الأساسية / المصطلحات التقنية:
– الذكاء الاصطناعي: محاكاة عمليات الذكاء البشري بواسطة الآلات، تشمل عادة القدرة على التعلم والاستدلال والتصحيح الذاتي.
– الذكاء الاصطناعي للإنتاج: التقنيات الت
The source of the article is from the blog mivalle.net.ar