تستعد منظمة Ofcom، وهي هيئة المراقبة في المملكة المتحدة المسؤولة عن تنفيذ قانون السلامة عبر الإنترنت، لفحص دور الذكاء الاصطناعي (AI) في حماية الأطفال على الإنترنت. أعلنوا عن نيتهم بدء استشارة حول تطبيق واستخدام الذكاء الاصطناعي والتقنيات الآلية المحتملة في الكشف عن المحتوى غير القانوني عبر الإنترنت وتجفيفه. الهدف الرئيسي هو حماية الأطفال من المواد الضارة، مع التركيز الخاص على تحديد محتوى الإساءة الجنسية للأطفال الذي غالباً ما يكون صعباً اكتشافه.
النقاش القادم هو جزء من مبادرة أوفكوم الأكبر التي تنظمها، مركزة على حماية الشباب عبر الإنترنت. ستبدأ استشارات الخطة الأوسع في المستقبل القريب، مع إجراء حوار مركز على الذكاء الاصطناعي لاحقًا في العام.
مارك بنتينغ من مجموعة سلامة الإنترنت في منظمة أوفكوم يشرح أن التحقيق الأولي سيكون في فعالية التطبيقات الذكاء الاصطناعي. يتعين رسم خريطة للاستخدام الحالي لأدوات الذكاء الاصطناعي من قبل بعض الخدمات لفحص وحماية الأطفال من المحتوى الضار من خلال تحديد الدقة والفعالية. ويتطلب هذا فحصا شاملا لهذه الأدوات، ضمان توازنها بين المخاطر لحرية التعبير واحترام الخصوصية. وسيكون الناتج المتوقع هو أن تقترح منظمة أوفكوم معايير تقييم للمنصات، مما قد يؤدي إلى زيادة اعتماد الأدوات المتقدمة أو فرض غرامات على عدم الامتثال.
أظهرت أحدث أبحاث أوفكوم زيادة مشاركة الأطفال في المملكة المتحدة على الإنترنت، حيث يمتلك ربع الأطفال الذين تتراوح أعمارهم بين 5 و 7 سنوات هواتف ذكية ويصل عدد أكبر حتى إلى وسائل الإعلام من خلال الأجهزة اللوحية. على الرغم من القيود العمرية على وسائل التواصل الاجتماعي الرئيسية، إلا أن نسبة كبيرة من هذه الفئة العمرية الصغيرة نشطة على منصات مثل واتساب وتيك توك وإنستغرام.
كما برزت ألعاب الفيديو كخيار شائع بين الأطفال، حيث أظهرت الدراسة زيادة في استخدامها بين الأطفال الذين تتراوح أعمارهم بين 5 و 7 سنوات. يشعر الآباء بثقة كبيرة في مناقشة سلامة الإنترنت مع أطفالهم، ولكن تشير أوفكوم إلى وجود تناقض بين تصور الآباء وواقع تجارب الأطفال على الإنترنت، مشيرة إلى التعرض المحتمل لمحتوى مثير للقلق أو مضلل بين الأطفال الأكبر سناً. توجه هذه الرؤية إلى عادات الشباب على الإنترنت توجه منظمة أوفكوم لضمان إقامة حمايات أكثر صلابة على ساحة اللعب الرقمية.
الدور المحتمل للذكاء الاصطناعي في سلامة الأطفال عبر الإنترنت: تمتلك تقنيات الذكاء الاصطناعي القدرة على تحليل كميات ضخمة من البيانات بسرعة، وهو ما يمكن أن يكون حاسما في تحديد وحجب المحتوى الضار قبل وصوله إلى الأطفال. على سبيل المثال، تم استخدام خوارزميات التعلم الآلي بشكل متزايد لاكتشاف الأنماط التي قد يغيب عنها المراقبون البشر، خاصة عندما يتعلق الأمر بقضايا معقدة مثل “التلبيس” أو التنمر الإلكتروني. يمكن أيضًا استخدام الذكاء الاصطناعي لفرض قيود العمر بكفاءة أكبر من خلال تحليل سلوك المستخدم واستخدام التعرف على الوجوه أو تحليل الصوت لاستنتاج الأعمار.
الأسئلة الأساسية والإجابات:
1. كيف يعزز الذكاء الاصطناعي سلامة الأطفال عبر الإنترنت؟
يعزز الذكاء الاصطناعي سلامة الأطفال بتحديد وتحذير وفي بعض الأحيان إزالة المحتوى الضار بسرعة. فهو يستخدم الاعتراف بالأنماط لتحديد المخاطر المحتملة بسرعة وكفاءة أكبر من المراقبين البشر.
2. ما هي التحديات المرتبطة باستخدام الذكاء الاصطناعي لهذا الغرض؟
تتضمن التحديات ضمان عدم انتهاك أنظمة الذكاء الاصطناعي للخصوصية، والحفاظ على حرية التعبير، وتجنب حجب المحتوى بوفرة أو ندرة. يجب أن يتم تحديث الذكاء الاصطناعي باستمرار لمواكبة التطورات في المخاطر عبر الإنترنت.
3. ما هي الجدليات التي قد تنشأ من استخدام الذكاء الاصطناعي في تدابير سلامة الأطفال عبر الإنترنت؟
قد تتضمن الجدليات التوازن بين حماية المجتمع من الأضرار عبر الإنترنت وحقوق الخصوصية وحرية التعبير، والتحيزات المحتملة داخل خوارزميات الذكاء الاصطناعي، وتفويض مسؤوليات المراقبة إلى أنظمة غير بشرية قد ترتكب أخطاء.
المزايا والعيوب:
المزايا:
– يمكن للذكاء الاصطناعي معالجة وتحليل البيانات بشكل أسرع بكثير من البشر.
– يستطيع العمل على مدار الساعة دون تعب، مما يسمح بالتعبئة الفورية للمحتوى.
– يمكن للذكاء الاصطناعي أن يتعلم ويتكيف مع التهديدات الجديدة مع الوقت، مما قد يجعله أكثر فعالية في تحديد المحتوى الضار.
العيوب:
– قد يواجه الذكاء الاصطناعي صعوبة في فهم تعقيدات التواصل البشري، مما يؤدي إلى نتائج خاطئة إيجابية أو سلبية.
– قد تكون هناك مخاوف من الخصوصية بسبب البيانات التي تحتاجها أنظمة الذكاء الاصطناعي للتدريب والتشغيل.
– قد يؤدي الاعتماد الثقيل على الذكاء الاصطناعي إلى وجود فجوة في الرقابة البشرية، وهو ما يعد أمرا حرجا لتوقيتات السياق التي قد يغفلها الذكاء الاصطناعي.
استجابةً للحاجة المتزايدة لتدابير سلامة الأطفال عبر الإنترنت، تهدف Ofcom إلى ضمان أن يمكن للأطفال في المملكة المتحدة الاستمتاع بالعالم الرقمي مع تقليل مخاطر مواجهة محتوى غير مناسب أو ضار. ويشمل ذلك التشاور النشط من قبل أوفكوم حول استخدام الذكاء الاصطناعي واقتراح معايير صارمة يجب على الشركات التكنولوجية الالتزام بها، مكملة لإجراءات أخرى يقوم بها الآباء والمعلمون لحماية الأطفال على الإنترنت.
The source of the article is from the blog agogs.sk