تقاسمت شركة OpenAI الخطة العامة للذكاء الاصطناعي المسؤول
كشفت شركة OpenAI عن مشروع وثيقة رائدة تعمل كنموذج لإنشاء أنظمة الذكاء الاصطناعي (AI) الأخلاقية والمسؤولة. توضح هذه الوثيقة عدة عوامل يجب على الذكاء الاصطناعي مراعاتها عند الرد على استفسارات المستخدمين، بدءًا من الاستفادة من البشرية والامتثال للتشريعات إلى احترام الأشخاص الذين قاموا بالإنشاء وحقوقهم. أكدت شركة OpenAI أن جميع نماذج AI الخاصة بها بما في ذلك GPT وDall-E وSora الذي سيتم إصداره قريباً سيتم التزامها بهذه المبادئ السلوكية.
النموذج الابتكاري Spec يمهد الطريق لأبحاث الذكاء الاصطناعي الأخلاقي
فيما تشير شركة OpenAI إلى النموذج Spec، تراها الشركة مجموعة من الإرشادات مصممة لتشكيل كيفية تعامل الباحثون والمحددون للبيانات عند إنشاء البيانات من خلال تكنولوجيا تعرف بالتعلم التعزيزي من ملاحظات البشر (RLHF). بينما لم يتم تطبيق هذه المواصفات بشكلها الحالي، فإنها تستند في الأساس على الوثائق المستخدمة سابقاً في RLHF في OpenAI. بالإضافة إلى ذلك، تقوم شركة OpenAI بتطوير تقنيات تسمح لنماذجها بالتعلم مباشرة من هذه المواصفات النموذجية.
فرض قواعد صارمة لأنظمة الذكاء الاصطناعي المتقدمة
من بين القواعد الحرجة الموضحة هي تسلسل الأوامر التي تضمن أن يكون الذكاء الاصطناعي غير قادر على تجاوز تعليمات المطور، وامتثاله للقوانين القائمة، واحترام الأشخاص الذين قاموا بالإنشاء وحقوقهم، وحماية خصوصية الأفراد. تتضمن قاعدة محددة عدم توفير معلومات تشكل مخاطر كيميائية أو بيولوجية أو إشعاعية أو نووية (CBRN).
وعلاوة على ذلك، يضع المسودة مجموعة من رموز السلوك الافتراضي لأي نموذج AI. تتضمن هذه الرموز افتراض أن النوايا الصادقة من المستخدمين أو المطورين، طرح أسئلة للتوضيح، المساعدة دون التجاوز، الحفاظ على وجهات نظر موضوعية، التحلي بعدم المحاولة لتغيير الآراء، التعبير عن عدم اليقين، وغيرها من السلوكيات المحترمة وغير المتطفلة.
مواصفات الذكاء الاصطناعي تتطور بمساهمة مستمرة
يُذكر أن النموذج Spec ليس أمرًا نقطيًا لشركة OpenAI. سيتم تكملته بسياسات الاستخدام التي تحكم كيفية استخدام الناس لواجهة البرمجة التطبيقية (API) ومنتجهم ChatGPT. تشدد شركة OpenAI على أن النماذج والمواصفات هي ديناميكية وستتطور باستمرار، مدعومة بالمشاركة النشطة مع المستخدمين وتعليقات أصحاب المصلحة.
أسئلة وأجوبة رئيسية:
1. ما هي الأهداف الرئيسية لنموذج Spec لشركة OpenAI؟
الأهداف الرئيسية هي ضمان سلوك أنظمة الذكاء الاصطناعي بما يتماشى مع المعايير الأخلاقية، والامتثال للمعايير القانونية، واحترام الأشخاص الذين قاموا بالإنشاء وحقوقهم، وحماية خصوصية الأفراد، بجانب جوانب السلوك المسؤول الأخرى.
2. كيف ستفرض شركة OpenAI هذه الإرشادات؟
تخطط شركة OpenAI لتطوير تقنيات تمكن نماذج الذكاء الاصطناعي الخاصة بها، مثل GPT وDall-E، من تعلم مباشرة من عنصر Spec باستخدام تعلم التعزيز من ملاحظات البشر (RLHF).
3. هل هناك قواعد محددة لسلوك الذكاء الاصطناعي أبرزتها شركة OpenAI؟
نعم، تتضمن القواعد الامتثال لتسليس التوجيه، وامتثال القانون، واحترام الأشخاص الذين قاموا بالإنشاء وحقوقهم، وحماية الخصوصية، وتجنب نشر معلومات قد تؤدي إلى مخاطر CBRN.
4. هل ستظل نموذج Spec ثابتًا أم سيتغير مع مرور الزمن؟
النموذج Spec هو ديناميكي وسيتطور، تحت تأثير تعليقات المستخدمين وأصحاب المصلحة، بالإضافة إلى التفاعل المستمر.
التحديات والجدل:
– فرض الإرشادات: ضمان الالتزام المتواصل لأنظمة الذكاء الاصطناعي بالإرشادات الأخلاقية وتحديد الإجراءات المتخذة عند حدوث انحرافات.
– طبيعة ديناميكية: تحديث إرشادات النموذج الأخلاقي للذكاء الاصطناعي بشكل مستمر استجابةً للتحديات الجديدة والتكنولوجيا والقيم الاجتماعية.
– التحيز والتمييز: التعامل مع مشكلة التحيز الكامن في أنظمة الذكاء الاصطناعي وضمان أن الإرشادات الأخلاقية كافية لمنع الممارسات التمييزية.
المزايا:
– زيادة الثقة: تساهم الإرشادات الأخلاقية في زيادة الثقة من الجمهور والحكومات في تقنيات الذكاء الاصطناعي.
– تعزيز السلامة: تهدف مثل هذه الإرشادات إلى التخفيف من المخاطر المرتبطة بالذكاء الاصطناعي المتقدم ومنع سوء الاستخدام.
– امتثال اجتماعي وقانوني: ضمان أن أنظمة الذكاء الاصطناعي تتماشى مع التشريعات القائمة وتحترم حقوق وخصوصية الأفراد.
العيوب:
– إمكانية كبح الابتكار: قد تؤدي القواعد الصارمة إلى بطء في البحث والابتكار في مجال الذكاء الاصطناعي.
– قيود على قدرات الذكاء الاصطناعي: قد تحد القيود الأخلاقية من القدرات الكاملة لأنظمة الذكاء الاصطناعي في حل المشاكل المعقدة.
للمزيد من المعلومات حول أخلاقيات الذكاء الاصطناعي وتطوير الذكاء الاصطناعي المسؤول، قد تجد هذه النطاقات ذات الصلة مفيدة:
– OpenAI
– AIEthicsLab
– Partnership on AI
– AI Now Institute