ニューヨーク市が開発した人工知能（AI）ツールであるMyCityチャットボットは、事業主に情報と支援を提供するために開発されましたが、誤った回答やアドバイスを提供していることが指摘され、懸念が高まっています。このチャットボットはAI技術の画期的な活用と謳われていますが、回答に誤りが見つかっています。
市長であるEric Adams氏は、市内で未検証の技術の利用を支持してきた人物であり、MyCityチャットボットの欠点を認め、まだ試験段階にあることを強調しました。彼は、問題を取り上げ、システムを改善する必要性を強調し、技術の実際の環境で効果的であるためには微調整が必要であると認識しています。
市長が期待を裏切る技術を支持したのは初めてのことではありません。以前には、タイムズスクエア地下鉄駅に犯罪防止のために400ポンドのロボットが配置されましたが、その効果のなさと限界により数か月で引退させられました。
報告された誤りにもかかわらず、MyCityチャットボットはオンラインで利用可能であり、誤った回答を提供し続けています。例えば、店舗のオーナーが現金を受け入れることを拒否できると誤って示唆していますが、市議会が2020年にそのような行為を禁止する法律を可決したにも関わらずです。さらに、最低賃金が2024年に16ドルに引き上げられたにもかかわらず、チャットボットは依然として時給15ドルであると信じています。
MyCityチャットボットは、MicrosoftのAzure AIサービスに依存しており、ChatGPTなどの生成AI技術プラットフォームに共通する制限に影響を受けています。これらのプラットフォームは、自信を持って誤った情報や捏造された情報を生成することで知られています。Microsoftは具体的な誤りの原因を開示していませんが、市と協力してこれらの問題を解決すると約束しています。
市の技術・イノベーションオフィスも問題を認識し、迅速にそれらを修正する予定です。来週早々にも、チャットボットの正確さに大幅な改善が見込まれています。ただし、Microsoftや市庁舎はエラーの具体的な原因や対処法について詳細を提供していません。
懸念を解決するために、MyCityチャットボットのウェブサイトに免責事項が更新され、回答が不正確または不完全である可能性が明示されています。企業はチャットボットの回答を法的または専門家のアドバイスとして利用しないように警告されています。
NYC Hospitality AllianceのディレクターであるAndrew Rigie氏は、チャットボットの誤解を招いた企業所有者からのフィードバックを受け取っています。彼は市が企業を支援するためにAIを活用しようとしている努力を評価しますが、チャットボットからの誤ったガイダンスに依存することが厳しい法的後果を招く可能性があると警告しています。彼は、チャットボットの情報の正確さと信頼性を確保することの重要性を強調しています。
FAQ:
Q: MyCityチャットボットとは何ですか？
A: MyCityチャットボットは、ニューヨーク市が事業主に情報と支援を提供するために開発した人工知能チャットボットです。
Q: 報告された不正確な情報にはどのようなものがありますか？
A: チャットボットは、雇用主が労働者のチップの一部を取ることを提案したり、従業員のシフト変更に関する規制がないと誤って伝えたりしました。
Q: MyCityチャットボットはどのような技術に依存していますか？
A: チャットボットはMicrosoftのAzure AIサービスを利用しています。
Q: 生成AI技術プラットフォームとは何ですか？
A: ChatGPTなどの生成AI技術プラットフォームは、入力に基づいて応答を生成するためのAIアルゴリズムを利用します。これらのプラットフォームは時折高い確信度で誤った情報を生成することがあります。
Q: エラーは解決されますか？
A: Microsoftと市の技術・イノベーションオフィスは、チャットボットの回答の誤りを修正するために取り組んでいます。今後、大幅な改善が期待されています。
ソース：[REUTERS](https://www.reuters.com/)
The source of the article is from the blog radardovalemg.com