لقد غمر عالم الذكاء الاصطناعي طويل الأمد بإمكانيات التعلم الآلي، ولكن ماذا عن التعلم العكسي؟ وفي حين أن الأول قد استكشف بشكل كبير، إلا أن الثاني لا يزال في إقليم لم يتم استكشافه كثيراً. للتعامل مع هذا الفجوة، قام فريق من جامعة كارنيجي ميلون بإنشاء مشروع TOFU – مشروع ثوري يهدف إلى تزويد أنظمة الذكاء الاصطناعي بالقدرة على “نسيان” البيانات المحددة.
إن النسيان له أهمية كبيرة في مجال الذكاء الاصطناعي بسبب المخاوف المتعلقة بالخصوصية المرتبطة بقدرات نماذج اللغة الكبيرة (LLMs). هذه النماذج، التي تم تدريبها على كميات ضخمة من البيانات من الويب، لديها القدرة على حفظ وإعادة إنتاج معلومات حساسة أو خاصة عن غير قصد. وهذا يشكل تعقيدات أخلاقية وقانونية. هنا يأتي دور TOFU، وهو حلاً يركز على محو البيانات المستهدفة من أنظمة الذكاء الاصطناعي مع الحفاظ على قاعدة معرفتها العامة.
تم تطوير TOFU حول مجموعة بيانات فريدة، حيث يستفيد من سير ذاتية مزيفة لمؤلفين تم تحقيقها بواسطة GPT-4. تسمح هذه المجموعة بإصلاح LLMs في بيئة مراقبة حيث تم تعريف عملية النسيان بوضوح. تتكون كل ملف تعريف في مجموعة البيانات TOFU من 20 زوجًا من الأسئلة والأجوبة، بمجموعة فرعية محددة تُعرف باسم “مجموعة النسيان” والتي يتعين نسيانها.
يتم تقييم فعالية النسيان من خلال إطار متطور مقدم من TOFU. يتضمن هذا الإطار مقاييس مثل الاحتمالية ومؤشرات ROUGE ونسبة الحقيقة. يتم تنفيذ التقييم عبر مجموعات بيانات متنوعة، بما في ذلك مجموعة النسيان ومجموعة الاحتفاظ والمؤلفون الحقيقيون وحقائق العالم. الهدف النهائي هو تدريب أنظمة الذكاء الاصطناعي على نسيان البيانات المستهدفة مع الحفاظ على الأداء الأمثل في مجموعة الاحتفاظ، مما يضمن نسيانًا دقيقًا ومستهدفًا.
بينما يظهر TOFU نهجاً مبتكراً، إلا أنه يلقي أيضاً الضوء على طبيعة التعلم العكسي للآلة. يكشف تقييم الأساليب الأساسية أن التقنيات الحالية لا تعالج بشكل فعال تحدي النسيان، مما يشير إلى وجود مساحة وفيرة للتحسين. يشكل إيجاد التوازن المناسب بين نسيان البيانات غير المرغوب فيها والاحتفاظ بالمعلومات القيمة تحدياً كبيراً، واحداً يسعى TOFU بنشاط للتغلب عليه من خلال التطوير المستمر.
في الختام، يرأس TOFU مجال تعلم الآلة العكسي ويضع مسرحًا للتقدم المستقبلي في هذا المجال الحيوي. من خلال التركيز على خصوصية البيانات في نماذج اللغة الكبيرة، يوازن TOFU التقدم التكنولوجي مع المعايير الأخلاقية. مع استمرار تطور الذكاء الاصطناعي، ستلعب مشاريع مثل TOFU دورًا أساسيًا في ضمان أن التطورات هي مسؤولة وتعطي الأفضلية للمخاوف الخصوصية.
أسئلة وأجوبة: النسيان في الذكاء الاصطناعي
The source of the article is from the blog myshopsguide.com