تکنولوژی هوش مصنوعی نیویورک شهری که به تازگی توسعه یافته است برای ارائه اطلاعات و کمک به صاحبان کسب و کار مورد بررسی قرار گرفته است؛ زیرا این تکنولوژی به اشتباه اطلاعات و مشورت‌های نادرست ارائه داده است. این موضوع باعث شده تا نگرانی‌ها درباره مشکلات قانونی برای کسب و کارهایی که بر روی راهنمایی‌های ارائه شده توسط چت‌بات اعتماد کرده‌اند، افزایش یابد. چت‌بات، هر چند که به عنوان یک استفاده نوین از تکنولوژی هوش مصنوعی معرفی شده است؛ اما دقت در پاسخ‌هایش دچار نقصان شده است.
شهردار نیویورک، اریک آدامز، که طرفدار پیاده‌سازی فناوری‌های آزمایش‌نشده در شهر بوده، نقصان‌های چت‌بات را به اعتراف کرده و تأکید کرده است که هنوز در مرحله آزمایشی است. او بر اهمیت رفع موارد و بهبود سیستم تأکید کرده و توضیح داده که استفاده از تکنولوژی نیازمند تنظیم دقیق در یک محیط واقعی است.
این اولین بار نیست که شهردار آدامز از تکنولوژی حمایت کرده است که انتظارات را برآورده نکرده است. در سال گذشته، یک ربات 400 پوندی در ایستگاه مترو تایمز اسکویر برای کمک به پیشگیری از جرم‌ها قرار گرفت، اما پس از چند ماه به دلیل ناکارآمدی و محدودیت‌های آن از کار افتاد.
با وجود گزارش‌های نادقیقی که به چت‌بات مای‌سیتی داده شده، این چت‌بات همچنان آنلاین قابل دسترسی است و ادامه می‌دهد تا پاسخ‌های نادرستی را ارائه دهد. به عنوان مثال، به غلط اظهار می‌کند که صاحبان فروشگاه می‌توانند از نقدینگی امتناع کنند، حتی اگر شورای شهر در سال 2020 قانونی برای ممنوعیت چنین عملیاتی تصویب کرده باشد. علاوه بر این، چت‌بات همچنان باور دارد که حداقل دستمزد 15 دلار در ساعت است، در حالی که از سال 2024 به 16 دلار افزایش یافته است.
چت‌بات مای‌سیتی بر اساس سرویس هوش مصنوعی Azure مایکروسافت عمل می‌کند که به محدودیت‌های رایج در پلتفرم‌های تکنولوژی هوش مصنوعی تولیدگرنده مانند چت‌جی‌پی‌تی آسیب پذیر است. این پلتفرم‌ها به تولید اطلاعات نادرست یا ساختگی با قدرت اطمینان بالایی شهرت دارند. مایکروسافت هنوز علت خاص نادرستی‌ها را اعلام نکرده است، اما تعهد داده است که با شهر برای حل این موارد همکاری خواهد کرد.
دفتر فناوری و نوآوری شهر نیز مشکلات را به اعتراف خواهد پذیرفت و قصد دارد به سرعت آنها را رفع کند. آنها انتظار دارند که بهبود‌های قابل توجهی در دقت چت‌بات از هفته آینده به بعد روشن گردد. با این حال، هیچ جزئیات بیشتری از عوامل دقیق نادرستی‌ها یا چگونگی برطرف کردن آنها توسط مایکروسافت یا دفتر شهری ارائه نشده‌است.
برای رفع این نگرانی‌ها، اطلاعات اخطاری در وبلاگ چت‌بات مای‌سیتی به‌روز شده، به‌صراحت اظهار کرده که پاسخ‌ها ممکن است نادرست یا ناقص باشند. کسب‌وکارها به احتیاط داده می‌شود تا از پاسخ‌های چت‌بات به عنوان مشاوره حرفه‌ای یا قانونی استفاده نکنند.
آندرو ریگی، مدیر اتحادیه آشپزخانه‌های نیویورک، بازخوردهایی از صاحبان کسب و کار گرفته که با پاسخ‌های گمراه‌کننده چت‌بات مواجه شده‌اند. او در حالی که از تلاش‌های شهر برای استفاده از هوش مصنوعی در کمک به کسب‌وکارها قدردانی می‌کند، هشدار می‌دهد که اعتماد به راهنمای نادرست چت‌بات می‌تواند پیامدهای قانونی جدی داشته باشد. او بر اهمیت اطمینان از دقت و قابل اعتمادی اطلاعات چت‌بات برای برآورده شدن هدف نیاز‌های آن تأکید کرده‌است٫
FAQ:
The source of the article is from the blog reporterosdelsur.com.mx