أثار إطلاق ميزة جديدة من قوقل مدعومة بتقنية الذكاء الاصطناعي، والتي تقدم ملخصات موجزة لطلبات البحث، انتقادات بسبب تقديم إجابات مضللة للمستخدمين، مما أثار نقاشا حول استعداد التقنية للاستخدام الواسع النطاق.
وقد تم إتاحة هذه الوظيفة المبنية على الذكاء الاصطناعي تدريجيا لجميع المستخدمين بعد عام من الاختبار. وبعد إطلاقها للاستخدام العام، هناك موجة من شكاوى المستخدمين بشأن تقديم معلومات غير صحيحة أحيانا عن طريق هذه الميزة.
يعمل الأداة من خلال فحص المحتوى الموجود في نتائج البحث ثم تقديم إجابة موجزة بمصدر لتوفير الحاجة للمستخدمين من البحث في نتائج البحث التقليدية وزيارة عدة مواقع. عرض المستخدمون أمثلة على إجابات غريبة تم إنشاؤها من الذكاء الاصطناعي على وسائل التواصل الاجتماعي، مثل اقتراح استخدام الغراء لمنع الجبن من الانزلاق عن البيتزا، وادعاء أن الرئيس الأمريكي جيمس ماديسون تخرج من جامعة ويسكونسن 21 مرة، وتصريح بأن شخصية باتمان كانت ضابط شرطة، بالإضافة إلى انحرافات أخرى عن الصحة.
تصرح المتحدثة باسم قوقل، ميجان فارنسوورث بأن هذه المشاكل تنبع من “استفسارات غير عادية لا تعكس تجربة معظم الناس.” وأشارت إلى أن الشركة تستخدم هذه الأمثلة لمواصلة تحسين منتجها.
تم اكتشاف أنماط من الأخطاء في وظيفة البحث بالذكاء الاصطناعي في قوقل، بما في ذلك عدم القدرة على التمييز بين النكات والحقائق، وعدم التوجه السليم، والإجابات المتنوعة لنفس طلبات البحث. وبينما تواجه الشركات الأخرى مثل اوبن اي، ميتا ومايكروسوفت تحديات مماثلة مع أنظمتها للذكاء الاصطناعي، فإن قوقل تخضع للتفتيش ليكون أول من يقدم تقنية من هذا الحجم.
تعد هذه الأخطاء جزءًا من التطور السريع للذكاء الاصطناعي. ومع ذلك، فإنها تبرز الحاجة الملحة لتعزيز دقة وأمان هذه التكنولوجيا قبل أن تصبح تماما موثوقة لتلبية احتياجات المستخدمين اليومية.