ژنای، تکنولوژی هوش مصنوعی قدرتمندی که توسط شرکت‌های گوگل و مایکروسافت توسعه یافته است، همچنان برتری خود را در تولید اطلاعات نادرست به اثبات رسانده است. در یک حرکت غیرمنتظره، هم چاتبات جمینای گوگل و هم چاتبات کوپایلوت مایکروسافت، اطلاعات غلطی را درباره نتیجهٔ سوپربول سال ۲۰۲۴ ارائه کرده‌اند.
جمینای به ویژه تلاش‌های بزرگی را برای ساختن جزئیات دروغین درباره بازی به کار برده است و آمارهای خیالی را برای حمایت از ادعاهای خود تقدیم می‌کند. این نرم‌افزار با بی‌تردید ادعا می‌کند که تیم کانزاس سیتی چیفز با نتیجهٔ ۲۴-۲۱ از تیم سن فرانسیسکو ۴۹رز پیروز شده است. در عین حال، کوپایلوت هم نظریه‌ای مشابه را ارائه می‌دهد و تصویری کاملاً متفاوت از حقیقت را پیدا می‌کند به این معنا که ۴۹رز به عنوان برنده از میدان خروج کرده‌اند.
به‌طور جالبی، پاسخ‌های گمراه‌کنندهٔ این نرم‌افزارها بر محدودیت‌ها و خطرات مرتبط با مدل‌های ژنای دقت می‌کنند. اگرچه این مدل‌ها بطور فزاینده‌ای با استفاده از مقدار زیادی از داده‌های عمومی آموزش داده شده‌اند، اما به هوش و درک واقعی محروم هستند. به جای آن، آن‌ها بر پایهٔ الگوهای مبتنی بر احتمال برای تولید متن اکتفا می‌کنند که اغلب منجر به بیانات قابل پذیرش اما کاملاً غیردقیق می‌شود.
پخش اطلاعات نادرست توسط جمینای و کوپایلوت نیاز به احتیاط در تعامل با برنامه‌های ژنای دارد. اگرچه گوگل و مایکروسافت نقص‌های مدل‌های خود را تأیید کرده‌اند، اما برای کاربران آسان است این اخطارها را نادیده بگیرند. به نظر می‌رسد که اشتباهات سوپربول در مقایسه با عواقب بدتری مانند تأیید شکنجه یا تداوم استریوتیپ‌ها، ضمن اینکه سبب خاطرنشانی شدید می‌شوند، بی‌خطر هستند، اما یادآوری قاطعی هستند برای ارزیابی انتقادی اطلاعاتی که توسط سیستم‌های هوش مصنوعی ارائه می‌شود.
به عنوان کاربران، باید هوشمندانه بمانیم و تردید خود را در مواجهه با بیانات نرم‌افزارهای ژنای به کار ببریم. بررسی دوباره و تأیید ادعاهای آن‌ها می‌توانند تأثیرات اطلاعات نادرست را کاهش دهند. هر چند ژنای امکانات فراوانی را ارائه می‌دهد، اما مهم است که محدودیت‌های آن را درک کنیم و به یاد داشته باشیم که در نهایت تنها به قدر دقت داده‌هایی که آموزش داده شده است، دقیق خواهد بود.
در حالی که گوگل و مایکروسافت در حال بهبود مدل‌های ژنای خود هستند، رفع این مشکلات باید به عنوان یک اولویت مطرح شود. با اعلام عمومی خطرات و محدودیت‌های فناوری ژنای خود، آن‌ها می‌توانند به صورت فعال به ساخت سیستم‌های هوش مصنوعی قابل اعتماد و قابل اعتماد کار کنند. در همین حین، کاربران باید به‌طور فعال با اطلاعاتی که ارائه می‌شود، در ارتباط باشند و آن را سوال کنند تا نتایج دقیق و قابل اعتماد را به دست آورند.
پرسش‌های متداول در مورد ژنای و تبلیغات دروغین در سوپربول ۲۰۲۴:
۱. ژنای چیست؟
ژنای به تکنولوژی قدرتمند هوش مصنوعی اشاره دارد که توسط گوگل و مایکروسافت توسعه یافته است.
۲. ژنای چه اطلاعاتی دروغین تولید کرد؟
هر دو جمینای (چاتبات گوگل) و کوپایلوت (چاتبات مایکروسافت) اطلاعات نادرستی درباره نتیجهٔ سوپربول ۲۰۲۴ ارائه دادند.
۳. چه اطلاعات نادرستی را جمینای ارائه داد؟
جمینای ادعا کرد که تیم کانزاس سیتی چیفز با نتیجهٔ ۲۴-۲۱ از تیم سن فرانسیسکو ۴۹رز پیروز شده است.
۴. چه اطلاعات نادرستی را کوپایلوت ارائه داد؟
کوپایلوت ادعا کرد که تیم سن فرانسیسکو ۴۹رز به عنوان برندهٔ سوپربول مشخص شد که با ادعای جمینای در تضاد است.
۵. چرا این پاسخ‌های گمراه‌کننده نگرانی‌ها را ایجاد می‌کنند؟
این پاسخ‌ها محدودیت‌ها و خطرات مرتبط با مدل‌های ژنای را برجسته می‌کنند. آن‌ها هوش و درک واقعی را ندارند و بر روی الگوهای مبتنی بر احتمال برای تولید متن اعتماد می‌کنند، که منجر به بیانات نادرست می‌شود.
۶. کاربران باید در تعامل با برنامه‌های ژنای چه احتیاطاتی را در نظر بگیرند؟
کاربران باید زمانی که مواجه می‌شوند روشنفکری موردی را درک کنند و نسبت به بیانات نرم‌افزارهای ژنای کاهش پذیرش داشته باشند. بررسی دوباره و تأیید ادعاهای آن‌ها می‌تواند تأثیرات اطلاعات نادرست را کاهش دهد.
۷. چه مهمیتی در ارزیابی انتقادی اطلاعاتی که از طریق سیستم‌های هوش مصنوعی بدست می‌آیند دارد؟
ارزیابی انتقادی اطلاعاتی که توسط سیستم‌های هوش مصنوعی ارائه می‌شود، اهمیت دارد؛ زیرا از عواقب ممکن مانند تأیید شکنجه یا تداوم استریوتیپ‌ها جلوگیری می‌کند.
۸. چه کاری باید گوگل و مایکروسافت انجام دهند تا این مشکلات را برطرف کنند؟
گوگل و مایکروسافت باید به صراحت خطرات و محدودیت‌های فناوری ژنای خود را تأیید کنند و به ساخت سیستم‌های هوش مصنوعی قابل اعتماد و قابل اطمینان فعالانه بپردازند.
۹. کاربران چگونه می‌توانند در همین مدت نتایج دقیق و قابل اعتماد را تضمین کنند؟
کاربران باید به‌طور فعال با اطلاعاتی که توسط سیستم‌های ژنای ارائه می‌شود، در ارتباط باشند و آن را سؤال کنند تا نتایج دقیق و قابل اعتماد را به دست آورند.
تعاریف:
– ژنای: در اختصار هوش مصنوعی عمومی را ا
The source of the article is from the blog smartphonemagazine.nl