تقدم تقنية الذكاء الاصطناعي (AI) العديد من الفوائد والتطورات في مختلف الصناعات. ومع ذلك، في ظل هذا التقدم، ظهر الجانب المظلم للذكاء الاصطناعي، حيث يحذر خبراء سلامة الأطفال والباحثين من المخاطر المحتملة التي يشكلها في تفاقم استغلال الأطفال عبر الإنترنت.
ووفقًا للمركز الوطني الأمريكي للأطفال المفقودين والمستغلين (NCMEC)، تم تسجيل 4700 تقرير العام الماضي بشأن محتوى AI الذي يصور استغلال الأطفال جنسيا. تشير هذه الأرقام المرعبة إلى ظهور مشكلة من المتوقع أن تتفاقم مع استمرار تطور تكنولوجيا AI.
وبينما لم يكشف المركز الوطني للأطفال المفقودين والمستغلين بعد عن إجمالي عدد التقارير المتعلقة بمحتوى الإساءة للأطفال التي استلمها من جميع المصادر في عام 2023، إلا أن المنظمة كشفت أنها استلمت حوالي 88.3 مليون ملف في عام 2022 وحده. تأتي هذه التقارير من شركات تكنولوجيا AI الشاملة ، والمنصات عبر الإنترنت ، والأفراد الذين يعثرون على مثل هذا المحتوى المزعج.
ويلعب المركز الوطني للأطفال المفقودين والمستغلين دورًا حاسمًا كمستودع وطني للإبلاغ عن محتوى إساءة الأطفال لوكالات إنفاذ القانون. وأكد جون شيهان ، النائب الرئيس التنفيذي للمركز الوطني للأطفال المفقودين والمستغلين ، أن استغلال الأطفال الذي تسهله التكنولوجيا الذكية يحدث بلا شك.
ومؤخرًا ، واجه الرؤساء التنفيذيين لشركات Meta Platforms و X و TikTok و Snap و Discord استجوابًا في جلسة مجلس الشيوخ التي تركزت على سلامة الأطفال عبر الإنترنت. استجوب المشرعون هذه الشركات مواقع التواصل الاجتماعي وشركات الرسائل حول جهودها لحماية الأطفال من المفترسين عبر الإنترنت.
قدم باحثو Stanford Internet Observatory تقريرًا في يونيو ، أبرزوا فيه القلق المحتمل من قدرة المعتدين على استخدام تكنولوجيا AI التكوينية لإنشاء صور جديدة تشبه إلى حد كبير الأطفال الحقيقيين. حيث تصبح هذه المواد المنشأة من قبل AI واقعية الشكل بشكل متزايد ، يشكل التمييز بين الضحايا الحقيقيين والإبداعات التي تم إنشاؤها بواسطة AI تحديًا كبيرًا.
لمواجهة هذه المشكلة المتزايدة ، وقد اتخذت OpenAI ، المنظمة التي تقف وراء ChatGPT الشهير ، نظامًا لنقل التقارير إلى المركز الوطني للأطفال المفقودين والمستغلين. بالإضافة إلى ذلك ، تجري حوارات بين المركز الوطني للأطفال المفقودين والمستغلين وشركات تكنولوجيا AI الشاملة الأخرى لوضع تدابير مماثلة.
يجلب صعود الذكاء الاصطناعي كلًا من الابتكار والمسؤوليات. مع استمرار المجتمع في اعتماد تكنولوجيا AI ، من الضروري أن نظل يقظين في معالجة هذه المخاوف الناشئة لحماية رفاهية الأفراد الضعفاء ، وخاصة الأطفال.
الأسئلة المتكررة:
س: ما هو الجانب المظلم للذكاء الاصطناعي؟
ج: يشير الجانب المظلم للذكاء الاصطناعي إلى المخاطر المحتملة والآثار السلبية لتكنولوجيا الذكاء الاصطناعي ، لا سيما في تفاقم استغلال الأطفال على الإنترنت.
س: كم كان هناك من التقارير العام الماضي بشأن محتوى AI الذي يصور استغلال الأطفال جنسيا؟
ج: وفقًا لـ NCMEC ، كان هناك 4700 تقرير العام الماضي بشأن محتوى AI الذي يصور استغلال الأطفال جنسيا.
س: كم عدد الملفات التي استلمها NCMEC في عام 2022 المتعلقة بمحتوى إساءة الأطفال؟
ج: استلمت NCMEC حوالي 88.3 مليون ملف في عام 2022 وحدها ذات علاقة بمحتوى إساءة الأطفال.
س: ما هو دور NCMEC في معالجة هذه المشكلة؟
ج: يلعب NCMEC دورًا حاسمًا كمستودع وطني للإبلاغ عن محتوى إساءة الأطفال لوكالات إنفاذ القانون.
س: أي شركات وسائل التواصل الاجتماعي والرسائل تمت استجوابها في جلسة مجلس الشيوخ حول سلامة الأطفال عبر الإنترنت؟
ج: استجوب رؤساء تنفيذيو Meta Platforms و X و TikTok و Snap و Discord في جلسة مجلس الشيوخ حول سلامة الأطفال عبر الإنترنت.
س: ماذا أبرز تقرير Stanford Internet Observatory؟
ج: أبرز تقرير Stanford Internet Observatory القلق المحتمل من قدرة المعتدين على استخدام تكنولوجيا AI التكوينية لإنشاء صور جديدة تشبه إلى حد كبير الأطفال الحقيقيين.
س: ما هي التدابير التي اتخذتها OpenAI وشركات تكنولوجيا AI الشاملة الأخرى لمكافحة هذه المشكلة؟
ج: قامت OpenAI بتطبيق نظام لنقل التقارير إلى NCMEC ، وتجري حوارات بين NCMEC وشركات تكنولوجيا AI الشاملة الأخرى لوضع تدابير مماثلة.
تعاريف:
– الذكاء الاصطناعي (AI): التكنولوجيا التي تمكّن الآلات من أداء المهام التي تتطلب تقديرًا بشريًا عادةً.
– محتوى إساءة الأطفال: المحتوى الذي يصور استغلال الأطفال جنسيًا أو الإساءة إليهم.
– تكنولوجيا AI التكوينية: الذكاء الاصطناعي القادر على إنشاء بيانات أو محتوى جديد ، مثل الصور أو النصوص.
– NCMEC (المركز الوطني للأطفال المفقودين والمستغلين): منظمة وطنية تركّز على منع اختطاف الأطفال واستغلالهم جنسيًا والعثور على الأطفال المفقودين.
– شركات وسائل التواصل الاجتماعي والرسائل: الشركات التي توفر منصات وخدمات عبر الإنترنت للمستخدمين للتواصل والتواصل ومشاركة المحتوى مع الآخرين.
روابط ذات صلة مقترحة:
المركز الوطني للأطفال المفقودين والمستغلين
OpenAI
جامعة ستانفورد
The source of the article is from the blog elblog.pl