يُطلق عليها الذكاء الاصطناعي (AI) في العالم السريع التطور، الحدث الأخير الذي شمل “Gemini chatbot” التابع لـ Google الضوء على التحديات التي تواجه إزالة الانحياز الثقافي في أدوات التكنولوجيا. أثار chatbot صورًا لجنود نازيين من الشعب الأسود والآسيوي، مما أدى إلى موجة من الغضب لتسليط الضوء على العواقب المحتملة لقوة الذكاء الاصطناعي دون رقيب.
قام الرئيس التنفيذي لـ Google، سندر بيشاي، بإدانة الأخطاء التي ارتكبتها تطبيقات Gemini AI، مُعترِفًا بأن الصور التي تم إنتاجها كانت غير دقيقة تاريخيًا وتروج لوقف مؤقت في إنتاج صور الأشخاص. تُعتبر ردود الفعل العامة على هذا الحادث تذكيرًا بالتأثير الهائل الذي تملكه عدد قليل من العمالقة التكنولوجية على منصات AI والتي تحمل الإمكانات لإعادة تشكيل المجتمع.
يصف جوشوا ويفر، محامٍ ورائد أعمال تكنولوجيا المعلومات، إجراءات Google بأنها كانت مبالغًا فيها في محاولتها لتفضيل الاندماج والتنوع. بينما قامت Google بتصحيح أخطائها بسرعة، يعتقد تشارلي بورجوين، الرئيس التنفيذي لمختبر Valkyrie applied science، أن مثل هذه التصحيحات تعالج مجرد القضية السطحية، دون معالجة المشكلة الأساسية.
تشارك Google، جنبًا إلى جنب مع العمالقة التكنولوجيين الآخرين، الآن في سباق الذكاء الاصطناعي مع شركات مثل Microsoft وOpenAI وAntropic. هذا التنافس المتزايد لا يترك مجالًا كبيرًا للشركات لتحسين منتجاتها على مدى فترة زمنية ممتدة. تتحول الأخطاء التي ارتكبت في سبيل الحساسية الثقافية إلى نقاط تشنج هامة، خاصةً في ظل الانقسام السياسي في الولايات المتحدة.
مع زيادة تولي AI لكميات ضخمة من المعلومات، يصبح السؤال حول من يتحكم في ضمانات AI أمرًا حيويًا. يثير الاحتمال لانتشار المعلومات الخاطئة وتعزيز الانحياز مخاوف بشأن التأثير الذي يمارسه أولئك الذين يتحكمون في أنظمة AI. أدى الخطأ الأخير إلى تساؤل الخبراء حول مدى التحكم الذي يملكه المستخدمون في أدوات AI والمعلومات التي تُنتَج.
تتأمل كارن بالمر، الفائزة بجوائز عديدة في إنشاء الواقع المختلط، في مستقبل يمكن أن يؤثر فيه AI في القرارات الهامة، مثل تحويل الأفراد الذين يواجهون مخالفات معلقة إلى مراكز الشرطة بدلاً من وجهاتهم المقصودة. يعتمد تدريب نماذج AI بشكل كبير على البيانات القائمة، التي تحتوي بشكل ضروري على انحيازات وعدالة اجتماعية ومعلومات كاذبة.
تعريفات:
The source of the article is from the blog bitperfect.pe