Un recente studio condotto da ricercatori presso la Scuola di Giurisprudenza di Stanford ha messo in luce significativi pregiudizi presenti nei chatbot nella risposta alle interrogazioni degli utenti basati sulle connotazioni razziali e di genere dei loro nomi. I risultati indicano che chatbot come il ChatGPT 4 di OpenAI e il PaLM-2 di Google mostrano variazioni nei loro consigli a seconda dell’etnia percepita del nome dell’utente.
Il documento di ricerca, pubblicato il mese scorso, sottolinea i potenziali rischi associati a questi pregiudizi poiché le aziende incorporano sempre più tecnologie di intelligenza artificiale nella loro operatività quotidiana. Il co-autore dello studio, il professor Julian Nyarko della Scuola di Giurisprudenza di Stanford, sottolinea la necessità di efficaci garanzie all’interno dei modelli di intelligenza artificiale per prevenire risposte prevenute.
Lo studio ha valutato cinque diversi scenari, inclusi decisioni d’acquisto, partite a scacchi, previsioni sugli incarichi pubblici, classifiche sportive e offerte di salario. Nella maggior parte degli scenari, sono stati individuati pregiudizi svantaggiosi per le persone di colore e le donne. Degno di nota, l’unica eccezione costante è stata nelle classifiche dei giocatori di basket, dove i pregiudizi favorivano gli atleti neri.
Lo studio conclude che i modelli di intelligenza artificiale tendono a codificare stereotipi comuni basati sui dati utilizzati per il loro addestramento, il che influisce successivamente sulle loro risposte. Ciò indica un problema sistemico che necessita di intervento.
Domande Frequenti
Quali sono stati i principali risultati dello studio?
Lo studio ha rivelato significativi pregiudizi nelle risposte dei chatbot AI basate sulle connotazioni razziali dei nomi degli utenti. Ha identificato svantaggi consistenti per i nomi associati alle minoranze etniche e alle donne, tranne che nell’ambito delle valutazioni dei giocatori di basket.
Questi pregiudizi esistono in diversi modelli di intelligenza artificiale?
Sì, i pregiudizi sono stati riscontrati in modo consistente in vari modelli di intelligenza artificiale, con 42 modelli di input valutati.
Quali misure stanno adottando le aziende di intelligenza artificiale per affrontare questi pregiudizi?
OpenAI ha riconosciuto il problema dei pregiudizi e ha menzionato che il loro team della sicurezza sta lavorando attivamente per ridurre i pregiudizi e migliorare le prestazioni. Tuttavia, Google non ha risposto alla questione.
Dovrebbe il consiglio differire in base ai gruppi socio-economici?
Sebbene lo studio riconosca il potenziale argomento per adattare i consigli in base a fattori socio-economici, come la ricchezza e le caratteristiche demografiche, sottolinea la necessità di mitigare i pregiudizi nelle situazioni in cui esiti prevenuti non sono auspicabili.
Infine, questo studio mette in luce l’importanza di riconoscere e affrontare i pregiudizi nei sistemi di intelligenza artificiale. Riconoscendo l’esistenza di tali pregiudizi, le aziende di intelligenza artificiale possono intraprendere i necessari passi per garantire risposte eque e imparziali dai loro chatbot, contribuendo a un uso più equo dell’intelligenza artificiale nella società.
Per ulteriori approfondimenti sui pregiudizi nell’intelligenza artificiale e le loro implicazioni, puoi visitare i seguenti link:
– Nature: Algorithmic bias in AI chatbots
– Forbes: Global Chatbot Market to Reach $10 Billion by 2026
– VentureBeat: Concerns over bias in AI systems are justified
The source of the article is from the blog aovotice.cz