في خطوة ثورية، كشف وحدة البحث والتطوير في المملكة المتحدة عن رؤية مبتكرة لـ “ضمانات السلامة الكمية” في مجال الذكاء الاصطناعي (AI). تقوم وكالة البحث والاختراع المتقدمة (ARIA) بفتح الطريق للمعايير العالية للسلامة في مجال الذكاء الاصطناعي، مستوحية من التدابير الصارمة للسلامة في الطاقة النووية والطيران للركاب.
في قلب خطة ARIA تقوم بتنفيذ نظام “حارس” ذكاء اصطناعي. سيعمل هذا الحارس الرقمي كواقيًا، يضمن أن وكلاء الذكاء الاصطناعي الآخرين يعملون ضمن حدود محددة مسبقًا لتطبيقات محددة. من خلال تطوير هذا الذكاء الصناعي للحارس، تهدف ARIA لتعزيز ضمان احتمالي أن لا يتسبب أي ضرر من أفعال الذكاء الاصطناعي.
عززت ARIA تعهدها بـ59 مليون جنيه إسترليني للمشروع، بهدف تجسيد دليل مقنع قابل للتطبيق في مجال محدد. تتراوح التطبيقات المحتملة من توازن الشبكة الكهربائية إلى إدارة سلسلة التوريد، بالهدف النهائي من تأمين تحسينات البنية التحتية الحرجة للذكاء الاصطناعي أو تحسين التجارب السريرية.
عبقرية هذه المبادرة هي ديفيد دالريمپل، المشارك في اختراع عملة الكريبتو المشهورة Filecoin. حفز بحث دالريمپل الواسع في سلامة الذكاء الاصطناعي التقنيه لاستكشاف نهج الحارس. الآن، كمدير برنامج ARIA، لديه الفرصة لتحويل نظرياته إلى حلول ملموسة.
ضمان الحارس:
سيعتمد حراس ARIA على نماذج عالمية علمية وبراهين رياضية لضمان السلامة. يُشير دالريمپل إلى أن هذا النهج يجمع بين المفاهيم التجارية والأكاديمية. على عكس الأساليب الحالية التي تعتمدها الشركات الكبيرة للذكاء الاصطناعي، التي تعتمد على عينات محددة دون توفير ضمانات، يمزج نهج الحارس الذي تتبعه ARIA قدرات الريادة بالاستدلال الرياضي.
لتحقيق هذا التوازن يتطلب التعاون العلمي عبر التخصصات العميقة، وهنا تصبح دورة ARIA حاسمة. أُنشئت في العام الماضي، تمويل ARIA يشمل البحوث “ذات المخاطرة العالية والمكافأة العالية” وقد أثارت مقارنات بينها وبين DARPA، الوحدة البحثية البارزة في وزارة الدفاع المعروفة بمشاريعها التي تدفع الحدود.
يقارن دالريمپل بين مشروع ARIA الجديد وبرنامج HACMS التابع لـ DARPA، الذي نجح في إنشاء طائرة مركبة رباعية غير قابلة للاختراق من خلال التحقق الرسمي. باستخدام مبادئ مماثلة، يهدف خطته دالريمپل إلى تحقيق وعد “ضمانات السلامة الكمية”. لاحظ أن العالم الكمبيوتر المعروف، Yoshua Bengio، أعرب عن خيبة أمل بخصوص عدم التقدم في هذا المجال، مما يجعل مبادرة دالريمپل ممكنة لتغيير قواعد اللعب.
في حين تعرض ميزانية ARIA لاعتراضات من السياسيين، مع اعتراض بعض النواب على حجمها مقارنة بجهات البحث الحكومية الأخرى، يمكن للوكالة عرض توفيرات تكاليف محتملة. إحدى البرامج التي أطلقتها مؤخرًا، على سبيل المثال، تهدف إلى تدريب أنظمة AI بتكلفة تبلغ 0.1% فقط من التكلفة الحالية.
بينما يتمحور مؤتمر TNW المقبل حول موضوع “Ren-AI-ssance: النهضة المدعومة بالذكاء الاصطناعي”، ستثير هذه الطريقة الثورية لسلامة الذكاء الاصطناعي بالتأكيد مزيدًا من المناقشات. من خلال تنفيذ نظام الحارس والتركيز على ضمانات السلامة الكمية، لديهم ARIA وقائدهم الرؤوي ديفيد دالريمپل القدرة على فتح آفاق جديدة في مجال الذكاء الاصطناعي، وضمان نشر هذه التقنية الجامحة بأمان ومسؤولية.
أسئلة شائعة
ما هو نهج الحارس في سلامة الذكاء الاصطناعي؟
يتضمن نهج الحارس في سلامة الذكاء الاصطناعي تنفيذ حارس رقمي ينظم ويضمن التشغيل الآمن لوكلاء الذكاء الاصطناعي الآخرين ضمن حدود محددة لتطبيقات محددة. يهدف إلى توفير ضمانات احتمالية بأن لن ينتج أي ضرر من أفعال الذكاء الاصطناعي.
كيف تخطط ARIA لتحقيق ضمانات السلامة الكمية في الذكاء الاصطناعي؟
تهدف ARIA إلى تحقيق ضمانات السلامة الكمية في الذكاء الاصطناعي من خلال تطوير أنظمة حراسة AI. ستعتمد هذه الحراس على نماذج عالمية علمية وبراهين رياضية لضمان السلامة. من خلال تجميع القدرات الرائدة بالاستدلال الرياضي، تأمل ARIA في خلق إطار قوي لنشر الذكاء الاصطناعي بشكل آمن.
ما هي التطبيقات المحتملة لنهج الحارس الخاص بـ ARIA؟
تتضمن بعض التطبيقات المحتملة لنهج الحارس الخاص بـ ARIA تحسين البنية الأساسية الحرجة، وتحسين التجارب السريرية، وتوازن شبكة الكهرباء، وإدارة سلسلة التوريد. من خلال حماية تطبيقات الذكاء الاصطناعي ذات المخاطر العالية، تهدف ARIA إلى تعزيز السلامة والفاعلية لهذه التطبيقات.
كيف يختلف نهج ARIA عن الأساليب الحالية المستخدمة من قبل الشركات الكبيرة في مجال الذكاء الاصطناعي؟
على عكس الأساليب الحالية التي تعتمدها الشركات الكبيرة في مجال الذكاء الاصطناعي، والتي تعتمد على عينات محددة دون توفير ضمانات، يجمع نهج الحارس الذي تتبعه ARIA بين القدرات الرائدة بالاستدلال الرياضي. هذا التوازن يتيح السرعة والسلامة، ويوفر نهجًا أكثر شمولا لنشر الذكاء الاصطناعي.
ما هو DARPA، ولماذا تم مقارنة ARIA بها؟
DARPA هو اختصار لإدارة مشاريع البحوث المتقدمة والدفاعية، وهي وحدة بحثية في وزارة الدفاع معروفة بمشاريعها الرائدة والعالية المخاطر. تم مقارنة ARIA بها نظرًا لتركيزها على الأبحاث “ذات المخاطرة العالية والمكافأة العالية” وطموحها في دفع حدود الابتكار التقني، تمامًا مثل DARPA.
المصادر:
– TNW (https://tnw.com)
The source of the article is from the blog lisboatv.pt