الحكومة الفيدرالية الأسترالية تدرس إدخال تشريعات جديدة لمعالجة الحالات المتزايدة من الاحتيال التي ترتكب بمساعدة الذكاء الاصطناعي. أظهرت الحوادث الأخيرة اتجاهًا يبرز استخدام الذكاء الاصطناعي لإنشاء مقاطع فيديو مزورة، تظهر شبهاً وأصواتاً لأطباء وعلماء ومشاهير معروفين، كل ذلك في محاولة للترويج لبضائع وأدوية مزيفة.
من المتوقع أن تشدد الإجراءات المقترحة على الاحتيال المنجز عبر منصات التواصل الاجتماعي. يمكن أن تتضمن الجزء الاستراتيجي من هذا النهج مساءلة منصات مثل فيسبوك وغيرها عن الأنشطة الاحتيالية التي تُيسرها خدماتها. ويشمل ذلك التزامات لإزالة مثل هذا المحتوى الخادع بسرعة والاستجابة بسرعة للبلاغات عن الأنشطة الاحتيالية. وقد تتوسع هذه الخطوات لتتطلب من المنصات تقديم تعويض للضحايا الذين عانوا خسائر بسبب الاحتيال على مواقعها.
في التزامها بمكافحة الاحتيال عبر الإنترنت، أفادت شركة ميتا، الشركة الأم لمواقع شهيرة بما في ذلك فيسبوك وإنستغرام، بالقضاء على ملايين الحسابات الزائفة عبر شبكتها. يُوضح هذا نحو تحول نحو الكشف والإزالة النشطة للأنشطة الاحتيالية في الساحة الرقمية، بهدف حماية المستخدمين من الممارسات الخادعة التي أصبحت مرتبطة للأسف بتكنولوجيا الذكاء الاصطناعي المتقدمة.
أسئلة مهمة وأجوبتها:
– أي أنواع من الاحتيال المدعوم بالذكاء الاصطناعي هي شائعة؟
الاحتيال المدعوم بالذكاء الاصطناعي ينطوي غالباً على التغفيات العميقة، وهجمات الصيد باستخدام محتوى متقدم من الذكاء الاصطناعي، والاحتيالات المدفوعة بالروبوتات التي تهدف للتلاعب في الأنظمة الإلكترونية أو التنكر على شكل بشر حقيقيين.
– لماذا تتمّ تركيز هذه التدابير الجديدة على منصات التواصل الاجتماعي؟
غالباً ما تكون منصات التواصل الاجتماعي بيئة مثالية للابتزاز نظراً لتوفيرها وسيلة وصول واسعة للنصابين لاستهداف الضحايا، ويجعلهم استخدام الذكاء الاصطناعي يجعل الاحتيالات أكثر إقناعاً.
– كيف قد يبدو تحمل المنصات مسؤولية؟
يمكن أن يعني تحمل المنصات المسؤولية فرض بروتوكولات أدق لرصد المحتوى وطرد الاحتيالات بموجبه، وتنفيذ أنظمة أفضل للإبلاغ، وربما فرض عقوبات مالية أو طلب التعويض للضحايا.
تحديات وجدليات رئيسية:
– تحديد المسؤولية: التحدي الكبير يتمثل في تحديد المسؤولية عن الأنشطة الاحتيالية: التمييز بين مسؤولية المنصة وحرص المستخدم.
– تحقيق التوازن بين التنظيم والابتكار: هناك جدل حول كيف قد تقيد التشريعات الصارمة بالتقدم التكنولوجي أو تنتهك الخصوصية وحرية التعبير.
– التنسيق الدولي: قد يكون الفعال في مكافحة الاحتيال المدعوم بالذكاء الاصطناعي يتطلب التعاون الدولي، حيث يشغل كل من شركات التكنولوجيا والنصابين غالباً أدواراً دولية.
مزايا وعيوب:
– المزايا:
– تحسين السلامة عبر الإنترنت للمستخدمين قد يخفض من خسائر السرقة المالية والبيانات.
– إجبار المنصات على التفعيل أكثر في كشف الاحتيال قد يقلل من انتشار الخطط الاحتيالية.
– قد يزيد ذلك من ثقة الجمهور في المنصات الرقمية وتقنيات الذكاء الاصطناعي.
– العيوب:
– قد يزيد التنظيم الصارم من التكاليف التشغيلية لشركات التواصل الاجتماعي التي قد تتحملها إلى الإعلانيين أو حتى المستخدمين.
– قد يعيق التنظيم الزائد نمو صناعات الذكاء الاصطناعي الشرعية والابتكار.
روابط ذات صلة:
– موقع الحكومة الأسترالية للإبلاغ عن الاحتيال: Scamwatch
– الموقع الرسمي لشركة ميتا: Meta
في الختام، تعكس اعتبار الحكومة الأسترالية لتدابير جديدة لمكافحة الاحتيال المدعوم بالذكاء الاصطناعي الحاجة المتزايدة لتكييف الإطارات التشريعية والتنظيمية لمواكبة التطورات التكنولوجية في مجال الذكاء الاصطناعي. على الرغم من أن النوايا لحماية المستهلكين واضحة، فإن تنفيذ مثل هذه التشريعات سيحتاج إلى تحقيق توازن بين حماية المستهلكين ومساءلة المنصات وتعزيز الابتكار.