شركات التكنولوجيا الرائدة والحكومات تتحد لوضع حواجز حماية للذكاء الاصطناعي. وقد توصلت العمالقة في صناعة التكنولوجيا، بما في ذلك مايكروسوفت، وOpenAI، وAnthropic، وشركات إضافية ثلاثة عشر، إلى اتفاق حول إطار سياسي رائد. وقد اتفقوا على توقيف التقدم في حال ظهور موقف يشبه الفرار أثناء تطوير نماذج الذكاء الاصطناعي الجديدة، لمنع حالات كارثية محتملة تشبه حدث “تيرمينيتور” في الحياة الواقعية.
الجهود المنسقة للتخفيف من مخاطر الذكاء الاصطناعي. تم التوصل إلى هذا الاتفاق في سيول، حيث التقت المنظمات وممثلو الحكومة لتحديد مسارهم فيما يتعلق بتطورات الذكاء الاصطناعي. يركز الاتفاق على “زر إيقاف التشغيل” – التزام بوقف تقدم أكثر نماذجهم الحديثة للذكاء الاصطناعية إذا تجاوزت العتبات المحددة مخاطر محددة مسبقًا.
القلق الرئيسي والتحديات المحيطة باستراتيجيات التوقف الطارئ للذكاء الاصطناعي:
1. تحديد العتبات “الخطيرة”: التحدي الرئيسي هو وضع المعايير المحددة التي تحدد متى يصبح الذكاء الاصطناعي مكمن خطر كبير لمواصلة التطوير. بدون تعريفات واضحة، يمكن أن يكون أي اتفاق للتوقف عرضيًا ومتروكًا للتفسير.
2. القابلية للتنفيذ: يشكل التأكد من التزام جميع الأطراف بالاتفاق على وقف التطوير مشكلة، خاصةً في ظل عدم وجود إطارات تنظيمية عالمية خاصة بالذكاء الاصطناعي.
3. القدرة التكنولوجية: إن تحقيق إمكانية إيقاف التشغيل نفسها قضية تقنية تتطلب وجود آليات موثوقة مدمجة في أنظمة الذكاء الاصطناعي، وهو مهمة معقدة.
4. الضغوط التنافسية: قد تكون الشركات مترددة في وقف أو إبطاء البحث إذا لم يفعل المنافسون ذلك، مما يؤدي إلى سباق محتمل في تطوير الذكاء الاصطناعي.
5. خصوصية وأمان البيانات: قد تتعامل النظم المتقدمة للذكاء الاصطناعي مع كميات هائلة من البيانات، وقد يشكل إيقافها المفاجئ مخاطر لخصوصية وأمان البيانات.
رغم الفوائد المقترحة والتحديات الملحوظة، فإن هذا التطور يشير إلى تغير في كيفية نظر صناعة التكنولوجيا إلى مسؤوليتها في تشكيل مستقبل الذكاء الاصطناعي. تضطر الحاجة الملحة إلى الذكاء الاصطناعي المتقدم إلى التفكير في توفير حواجز لحماية ضد النتائج الضارة. يظل من الضروري القيام بالبحث المستمر والحوار بين الأطراف المعنية لتحسين وتنفيذ إطارات مثل هذه بفعالية.
The source of the article is from the blog exofeed.nl