در یک حادثه اخیر، ویژگی هوش مصنوعی خبرهای NewsBreak به اشتباه یک حادثه تیراندازی واقع نشده در کریسمس گذشته را گزارش کرد، که منجر به ابراز ابهامات توسط پلیس نیوجرسی شد. داستان خبری که توسط هوش مصنوعی تصور شد، اطلاعات نادرست درباره یک واقعه خشونت آمیزی را گسترش داد، اما مقامات اطمینان دادند که چنین واقعه‌ای هرگز رخ نداده بود، به ویژه در طول فصل تعطیلات کریسمس.
پیشرفت در فناوری هوش مصنوعی منجر به استفاده از چنین سیستم‌هایی برای تولید محتوای خبری محلی شده است. با این حال، این حادثه ریسک‌های پتانسیلی مرتبط با ایجاد خبرهای خودکار را روشن می‌کند. این با توقعاتی که از دقت و قابلیت اعتماد در روزنامه‌نگاری داریم، کاملاً متفاوت است. NewsBreak چهار روز زمان برد تا مقاله خبری تولید شده توسط هوش مصنوعی را ابطال کند، که سوالاتی درباره واکنش این پلتفرم به اطلاعات نادرست پدیدار کرد.
این اشتباه اولین باری نبود؛ NewsBreak در گسترش حداقل ۴۰ مقاله حاوی اطلاعات نادرست یا گمراه‌کننده دست داشته است. کارمندانی که به طور ناشناس صحبت کردند، نگرانی خود را اعلام کردند با اشاره به مواردی که برنامه به اشتباه اطلاعات مهم جامعه را گزارش نادرست داده بود، مانند ساعات بانک غذا که می‌تواند به طور مستقیم بر زندگی افراد تأثیر بگذارد.
قبلاً شرکت به مشاوره خود از Norm Pearlstine، یک مشاور، برای راهنمایی در استفاده از هوش مصنوعی برای ایجاد خبر پرداخته بود. او به خطرات جدی که چنین حوادثی برای شهرت اپلیکیشن ایجاد می‌کند، اشاره کرد. اشتباه هوش مصنوعی در گزارش واقعیت های خیالی، یک یادآوری شدید از موازنه حساس که شرکت‌های فناوری باید حفظ نمایند هنگام بهره‌برداری از هوش مصنوعی برای تولید محتوا می‌باشد.
The source of the article is from the blog xn--campiahoy-p6a.es