La chatbot basata sull’intelligenza artificiale chiamata MyCity, lanciata di recente dalla città di New York, ha suscitato preoccupazioni per aver fornito risposte errate o consigli che potrebbero causare eventuali problemi legali ai proprietari di attività commerciali. Questa innovativa utilizzo della tecnologia IA è stata pensata per fornire agli imprenditori informazioni affidabili in risposta alle loro domande, ma il media investigativo The Markup ha scoperto delle imprecisioni nelle risposte della chatbot.
Il sindaco di New York, Eric Adams, sostenitore dell’implementazione di tecnologie non testate nella città, ha riconosciuto i difetti della chatbot e ha sottolineato che si trova ancora nella fase pilota. Ha evidenziato la necessità di affrontare i problemi e migliorare il sistema, spiegando che l’utilizzo della tecnologia richiede un’affinazione in un ambiente reale.
Non è la prima volta che il sindaco Adams sostiene tecnologie che non soddisfano le aspettative. L’anno scorso, un robot da 400 libbre è stato posizionato nella stazione della metropolitana di Times Square per aiutare nella prevenzione dei crimini. Tuttavia, è stato ritirato dopo pochi mesi a causa della sua inefficacia e limitazioni. I pendolari hanno notato che il robot non sembrava servire a nulla e non riusciva a navigare le scale.
Nonostante i resoconti di imprecisioni, la chatbot MyCity rimane accessibile online e continua a fornire risposte sbagliate. Ad esempio, suggerisce erroneamente che i proprietari di negozi possono rifiutarsi di accettare contanti, anche se il consiglio comunale ha approvato una legge nel 2020 che vieta tali pratiche. Inoltre, la chatbot crede ancora che il salario minimo sia di $15 l’ora, nonostante sia stato aumentato a $16 a partire dal 2024.
La chatbot fa affidamento sul servizio di intelligenza artificiale Azure di Microsoft, che è soggetto ai limiti comuni delle piattaforme tecnologiche basate sull’IA generativa come ChatGPT. Queste piattaforme sono note per produrre informazioni false o inventate con un’elevata certezza. Microsoft non ha divulgato la causa specifica delle imprecisioni, ma si è impegnata a lavorare con la città per risolverle.
L’Ufficio della Tecnologia e dell’Innovazione della città riconosce anche i problemi e pianifica di risolverli prontamente. Si prevedono significativi miglioramenti nell’accuratezza della chatbot già dalla prossima settimana. Tuttavia, né Microsoft né l’ufficio del sindaco hanno fornito ulteriori dettagli sulle cause specifiche degli errori o su come saranno affrontati.
Per affrontare le preoccupazioni, le dichiarazioni sul sito web della chatbot MyCity sono state aggiornate, affermando esplicitamente che le risposte potrebbero essere inaccurate o incomplete. Si consiglia alle attività commerciali di non utilizzare le risposte della chatbot come consulenza legale o professionale.
Andrew Rigie, direttore della NYC Hospitality Alliance, ha ricevuto feedback da proprietari di attività commerciali confusi dalle risposte fuorvianti della chatbot.
FAQ:
Q: Cosa è la chatbot MyCity?
A: La chatbot MyCity è uno strumento di intelligenza artificiale sviluppato dalla città di New York per fornire informazioni e assistenza ai proprietari di attività commerciali.
Q: Quali sono alcune delle imprecisioni segnalate?
A: La chatbot ha fornito consigli errati, come suggerire che i datori di lavoro possano trattenere una parte delle mance dei lavoratori e che non ci siano regole per i cambiamenti di turno dei dipendenti.
Q: Su quale tecnologia si basa la chatbot MyCity?
A: La chatbot utilizza il servizio Azure di intelligenza artificiale di Microsoft.
Q: Cosa sono le piattaforme tecnologiche basate sull’IA generativa?
A: Le piattaforme tecnologiche basate sull’IA generativa, come ChatGPT, utilizzano algoritmi di intelligenza artificiale per generare risposte basate sull’input. Sono note per produrre occasionalmente informazioni false con elevata certezza.
Q: Gli errori saranno risolti?
A: Sia Microsoft che l’Ufficio della Tecnologia e dell’Innovazione della città stanno lavorando per correggere le imprecisioni nelle risposte della chatbot. Si prevedono significativi miglioramenti nel prossimo futuro.
Fonte: REUTERS
The source of the article is from the blog elperiodicodearanjuez.es