يعبر خبراء الذكاء الاصطناعي عن قلقهم بشأن التطور السريع للذكاء الاصطناعي العام
كتب ليوبولد أشنبرنر، الذي كان موظفًا سابقًا في OpenAI، مقالًا يعبر فيه عن مخاوفه بشأن التطور السريع للذكاء الاصطناعي العام (AGI). كان هذا المقال جزءًا من مبادرة تسمى الوعي بالوضع وكان مكرسًا لمؤسس شركة OpenAI، إيليا سوتسكيفر، الذي استقال مؤخرًا من منصبه.
يستند أشنبرنر إلى أن سباقات تطوير AGI قد بدأت بالفعل، وتوقع أنه بحلول منتصف العقد الثاني من القرن الواحد والعشرين، ستتجاوز هذه الآلات قدرات التفكير لدى العديد من خريجي الكليات. ويتوقع تدخل وكالات الأمن القومي، مما يؤدي إلى نشوء مشروع AGI حكومي أمريكي بحلول نهاية العقد الثاني من القرن الواحد والعشرين.
حث شركات الذكاء الاصطناعي على توسيع حقوق الكشف بشأن المخاطر
طالب موظفون من شركات الذكاء الاصطناعي بتمديد الحقوق للكشف عن معلومات الشركات الخطيرة بالإضافة إلى إلقاء الضوء على غموض القدرات والقيود والمخاطر المحتملة لنظم الذكاء الاصطناعي الخاصة بهم. ويعتبر هذا الفريق، الذي يشمل الموظفين الحاليين والسابقين من شركات OpenAI وGoogle DeepMind وAnthropic، أن شركات الذكاء الاصطناعي ليست مسؤولة بشكل فعال دون رقابة حكومية صارمة.
مبادئ مقترحة للتعامل مع معلومات الذكاء الاصطناعي الحساسة
للتخفيف من المخاوف والمخاطر المرتبطة بالذكاء الاصطناعي، يقترح الكتاب مجموعة من المبادئ التي يجب على الشركات اعتمادها. تشمل هذه الاتفاقيات عدم قيود الموظفين عن انتقاد الشركة، وضمان سرية هويات الملاجئ، والحفاظ على ثقافة النقد المفتوح، والامتناع عن اتخاذ إجراءات انتقامية ضد الموظفين الذين يكشفون عن مخاوفهم.
بالإضافة إلى ذلك، يسلط المقال الضوء على مخاطر ترك جانب الأمان في الذكاء الاصطناعي كأمر ثانوي، مشيرًا إلى أن مؤسسات البحث يمكن أن تسلم تكنولوجيا AGI عن غير قصد إلى أطراف عدائية، مثل الحزب الشيوعي الصيني. يحذر أشنبرنر من أن تطوير AGI قد يكون فعلا لعبة من أجل بقاء المجتمعات الحرة، ويقترح أن أولئك الذين لديهم معرفة داخلية بتطوير تقنية الذكاء الاصطناعي هم الفاعلين الرئيسيين في مستقبل البشرية.
التهديد المحدق من تطوير AGI غير المنظم
المخاطر المرتبطة بالتطور غير المسيطر للذكاء الاصطناعي العام (AGI) تمتد بعيدًا عن المؤسسات الفردية ولها تداعيات عالمية بالإمكان. وبينما يتم التأكيد على المخاوف الخاصة بالشركات المحددة، يغطي الحوار الأوسع حول AGI الأبعاد الأخلاقية والسياسية والاستراتيجية التي يمكن أن تؤثر على الأمن العالمي.
أسئلة وأجوبة حاسمة حول مخاطر AGI
1. ما هي الأخطار الأمنية العالمية الرئيسية التي يشكلها AGI؟
يمكن أن يستخدم AGI بالإمكان لتأتير هجمات سيبرانية، وتعطيل البنية التحتية الحيوية، وتطوير تقنيات عسكرية متقدمة. وعلاوة على ذلك، يمكن لـ AGI تفاقم الفجوات العالمية وزعزعة العلاقات الدولية إذا أصبحت جزءًا من الأصول الاستراتيجية المُركزة في أيدي قلة.
2. كيف يمكن تنظيم تطوير AGI لمنع سوء الاستخدام؟
يمكن أن تساعد التعاون الدولي وإنشاء أطُر تنظيمية وشفافية بين الكيانات التي تطور AGI في التخفيف من المخاطر. كما أن آليات التحقق القوية لضمان الامتثال للمعايير المتفق عليها ضرورية.
3. ما هي الاعتبارات الأخلاقية المتورطة في تطوير AGI؟
تتضمن المخاوف إزالة الوظائف، ومخاطر الخصوصية، والتحديات التي تواجه الحكمة والوكالة إذا تخذ الآلات قرارات نيابة عن البشر. بالإضافة إلى ذلك، معالجة AGI نفسها – في حال امتلكت صفات تشبه الوعي – أمر يشكل موضوعًا للنقاش الأخلاقي.
التحديات الرئيسية والجدالات
التحدي الأساسي هو التوازن بين الابتكار والسلامة، مع ضمان عدم تقدم الأنظمة AGI بدون رقابة، مما يعرض لمخاطر عواقب غير متوقعة. وتتضمن جدال آخر إمكانية نشوب سباق تسلح لأنظمة AGI بين الدول، حيث تسعى كل دولة للحصول على تفوق في هذه التكنولوجيا الاستراتيجية.
مزايا وعيوب AGI
تشمل مزايا AGI القدرة المحتملة على تحقيق تقدم كبير في مجال الرعاية الصحية والتعليم والبحث العلمي، حيث يمكن لها معالجة وتركيب كميات ضخمة من المعلومات بسرعة. ومع ذلك، تشمل العيوب مخاطر العطل، وسوء الاستخدام الخبيث، وعدم قدرة إدراكية غير متوقعة لـ AGI والتي قد تؤدي إلى نتائج يصعب التحكم فيها أو عكسها.
روابط ذات صلة
للمزيد من المعلومات حول الذكاء الاصطناعي والأمن العالمي، يمكنك زيارة المواقع الرسمية للمؤسسات الرائدة في هذا المجال:
– OpenAI
– DeepMind
– Anthropic
نظرًا للمرحلة الناشئة التي تمر بها تقنية AGI والسرعة التي يتطور بها، لا يمكن تجاوز أهمية البحث المستمر والحوار وصنع السياسات في هذا المجال. سيحتاج أصحاب المصلحة عبر الطيف من التكنولوجيين إلى صناع السياسات للعمل بشكل تعاوني لاستغلال وعد AGI مع الحفاظ على سواقفها المحتملة للأمن العالمي.
The source of the article is from the blog macholevante.com