في تطور مزعج للأحداث، تم إجبار YouTube على تحديث سياستها لتُحظر صراحة إنشاء مقاطع الفيديو التي تستخدم تقنية الذكاء الاصطناعي وتتضمن أطفالًا متوفين في محتوى الجرائم الحقيقية. جاء هذا التغيير بعد ظهور سلسلة من مقاطع الفيديو على منصات التواصل الاجتماعي، بما في ذلك TikTok، تعرض أصواتًا محاكية لضحايا حقيقيين لجرائم قتل الأطفال، وهم يروون وفاتهم المروعة بأنفسهم.
تلك المقاطع، والتي حققت ملايين المشاهدات، أثارت انتباهًا واستياءًا واسعًا. ستدخل سياسة يوتيوب المحدثة حيز التنفيذ في 16 يناير، وستؤدي إلى حظر المحتوى الذي يحاكي واقعًا الأطفال المتوفين أو ضحايا أحداث عنيفة معروفة ويصف وفاتهم أو العنف الذي تعرضوا له.
على الرغم من أن TikTok يمتلك بالفعل سياسات تتعامل مع هذا النوع من المحتوى، مع الحاجة إلى وضع تسميات على مقاطع الفيديو التي ينشئها الذكاء الاصطناعي والتلاعب بصور الأشخاص الذين تقل أعمارهم عن 18 عامًا أو الأشخاص غير الشهيرين بالإضافة إلى حظر الأفلام المركبة لهؤلاء الأشخاص، فإن يوتيوب قد واجهت انتقادات بسبب السماح بتداول هذا المحتوى المثير للصدمة على منصتها.
لا تُثير هذه المقاطع الفيديو فقط ردود فعل عميقة واستياء في نفوس المشاهدين، بل تسبب أيضًا آلامًا هائلة لذوي الناجين. عبرت دينيس فيرجس، التي تعرض ابنها جيمس بولجر للاختطاف والقتل في عام 1993، عن اشمئزازها في مقابلة حيث وصفت مقاطع الفيديو التي تستخدم تقنية الذكاء الاصطناعي لطفلها بأنها “غير عقلانية” و”تعيد الحياة لطفل ميت”.
ارتفاع أعداد هذه المقاطع المزعجة بتقنية الذكاء الاصطناعي ليس فقط مرآةً للجانب المظلم للإنترنت، بل يؤكد أيضًا العيوب الجوهرية في نظام يحفز مبدعي المحتوى على استغلال انتباهنا، بغض النظر عن مدى الفاسدة أو الإثارة للقلق التي يمكن أن يحتوي عليه المحتوى.
وفي إطار مواصلة منصات مثل YouTube التصدي لتحديات تنظيم المحتوى وضمان سلامة ورفاهية مستخدميها، لا يزال قائلاً إنه من المبكر الحكم عما إذا كانت هذه التحديثات السياسية ستحد من انتشار تلك المقاطع المثيرة للصدمة بشكل فعال، أما إذا كانت هناك حاجة لاتخاذ إجراءات أكثر صرامة في المستقبل.
The source of the article is from the blog publicsectortravel.org.uk