في جلسة صباحية من منتدى التكنولوجيا والثقافة سونار، وُجهت سؤالًا ملهمًا من قبل أرتور غارسيا، فيزيائي ومهندس وباحث في مركز برشلونة للحوسبة الفائقة. تحدى الجمهور بالتساؤل عن حكمة تكليف الذكاء الاصطناعي بإدارة الشفرات النووية، مسلطًا الضوء على جدية النظر في دور الذكاء الاصطناعي في صنع القرارات الحرجة.
أطلق المنتدى المعنون “إحداث الذعر” مناقشة عميقة في تأثير الذكاء الاصطناعي على الفنون والمجتمع وصناعات الثقافة. وقد انضم غارسيا إلى تجمع من الشخصيات المؤثرة في مجال الذكاء الاصطناعي، بما في ذلك ريبيكا فيبرينك، أستاذة حوسبة الإبداع في جامعة فنون لندن، والصحفية والكاتبة مارتا بييرانو، والمدير الإبداعي مارتا هانديناور، وأستاذ الفلسفة مانولو مارتينيز من جامعة برشلونة.
قدّمت مارتا بييرانو تأملًا بالاعتماد على قوة الأشكال الفنية التقليدية حتى في مواجهة التكنولوجيا الجديدة. قارنت بين ارتفاع الفوتوغرافيا وتأثيرها على الرسم بالتكامل الحالي للذكاء الاصطناعي في صناعة الأفلام، مؤكدة أن الأفلام التي تنشأ من الذكاء الاصطناعي لن تعني نهاية السينما كما نعرفها.
أبرزت فعاليات سونار+دي، القسم الخاص بالإبداع الرقمي في مهرجان سونار، التشكيك في التكنولوجيا وبالوقت نفسه ألقت الضوء على الإمكانات الفنية والإبداعية للذكاء الاصطناعي. استكشفت الفعالية الجوانب الملهمة والمثيرة للقلق من الذكاء الاصطناعي، كما وصفها منسقة المهرجان أنطونيا فولغيرا. وأشارت إلى أن الحدث يهدف إلى تقديم جوانب الذكاء الاصطناعي المتنوعة من تطبيقاته الملهمة في الموسيقى إلى تأثيراته المثيرة للجدل على المجتمع.
كانت من بين النقاط المحورية مناقشة حول كيف يمكن للذكاء الاصطناعي التكهن بمستقبل الفن، مساهمة في الحوار المستمر حول العلاقة بين التكنولوجيا والثقافة. تم الاحتفاء بالجانب الإبداعي للذكاء الاصطناعي من خلال التثبيتات التفاعلية وتحليل الهوية الرقمية النفسانية، مما قدم تجربة جذابة للحضور.
ومع ذلك، لم تكن جميع المناقشات تؤيد تطبيقات الذكاء الاصطناعي. أبرزت أداء الناشطة ساشا كوستانزا-تشوك المخاطر التي قد تنتج عن سوء استخدام التكنولوجيا، مبينة كيف يمكن للذكاء الاصطناعي التوافق مع أعمال عنف مدمرة، مسلطة الضوء على الاعتبارات الأخلاقية في استخدام هذه التكنولوجيا القوية.
تثير أخلاقيات حكم الذكاء الاصطناعي في الشفرات النووية العديد من الأسئلة المهمة:
1. كيف يمكننا ضمان موثوقية أنظمة الذكاء الاصطناعي المسؤولة عن الأسلحة النووية؟ تطوير آليات مضادة للأخطاء وفحوصات القوة الصلبة أمر حاسم للتخفيف من مخاطر الإطلاقات العرضية بسبب أخطاء الذكاء الاصطناعي أو ثغراته.
2. هل يمكن لنظم الأسلحة المسيطرة بواسطة الذكاء الاصطناعي اتخاذ قرارات دون تدخل بشري، وهل يجب ذلك؟ هناك جدل حول مدى الحاجة إلى أنظمة تشمل الإنسان للحفاظ على السيطرة الأخلاقية والاستراتيجية على استخدام الأسلحة النووية.
3. ما هي الآثار الناتجة عن ديناميكيات سباق الذكاء الاصطناعي بين الدول؟ يمكن أن يؤدي التنافس لتطوير تكنولوجيا الذكاء الاصطناعي الأفضل للقدرات العسكرية إلى زيادة التوتر وسباق تسلح، مما قد يؤدي إلى تقويض السلام الدولي.
تتضمن التحديات الأساسية أو الجدل المرتبط بالذكاء الاصطناعي في الشفرات النووية:
– أخلاقيات الآلة: برمجة الاعتبارات الأخلاقية والأخلاقية في أنظمة الذكاء الاصطناعي، خاصة فيما يتعلق بالحالات الحياتية والموتية، تبقى هي تحدي غير محلول.
– شفافية اتخاذ القرارات: يمكن أن تكون عملية اتخاذ القرار من قبل الذكاء الاصطناعي غامضة، مما يثير مخاوف بشأن مساءلة وتتبع الإجراءات التي اتخذتها أنظمة الذكاء الاصطناعي.
– التنظيم الدولي: تغيب القوانين أو الاتفاقات الدولية التي تحكم استخدام الذكاء الاصطناعي في أنظمة الأسلحة النووية.
من المميزات والعيوب أيضًا المتأصلة في المناقشة:
المميزات:
– كفاءة وسرعة: يمكن للذكاء الاصطناعي معالجة المعلومات وتنسيق الردود بشكل أسرع بكثير من البشر، مما قد يوفر مزايا في المواقف الدفاعية.
– تخفيض الأخطاء البشرية: يمكن أن يقلل الذكاء الاصطناعي من خطر الإطلاقات العرضية نتيجة لأخطاء أو سوء تقدير بشري.
العيوب:
– خطر الحرب العرضية: قد تؤدي تفسيرات خاطئة من الذكاء الاصطناعي للبيانات أو عطل النظام إلى تشغيل إطلاقات نووية عرضية.
– مضاعفات أخلاقية: يمكن أن تؤدي تفويض القرارات الأخلاقية، مثل استخدام الأسلحة النووية، إلى تقليل الحساسية أو التباعد للإنسان عن جدية تلك الاختيارات.
يشمل الروابط المقترحة المتعلقة بالمجال الرئيسي لمزيد من الرؤى حول حكم الذكاء الاصطناعي والأخلاق:
– الجزيرة الثانية: RAND Corporation تعتبر بحوثها الواسعة في آثار الذكاء الاصطناعي في الحروب.
– معهد مستقبل الحياة: تدافع عن الذكاء الاصطناعي الآمن والمفيد، بما في ذلك النقاشات حول الأسلحة النووية.
– CSET تقدم تحليلًا وتوصيات حول الآثار الأمنية للتقنيات الناشئة مثل الذكاء الاصطناعي.