Gli chatbot con intelligenza artificiale (AI) e i generatori di immagini stanno diventando sempre più popolari negli ultimi anni, ma portano con sé anche i loro difetti e pregiudizi. Questi strumenti sono stati noti per stereotipare individui, diffondere informazioni false, generare contenuti discriminatori e fornire risposte inaccurate. Sebbene questi problemi siano ampiamente documentati, manca ancora una comprensione completa della loro diffusione e gravità.
Un recente rapporto di gruppi industriali e della società civile ha cercato di fare luce sui vari modi in cui gli chatbot con intelligenza artificiale possono sbagliare. Lo studio mette in luce i risultati di un concorso sostenuto dalla Casa Bianca tenutosi alla convention degli hacker Def Con. I partecipanti hanno cercato di manipolare otto dei principali chatbot con intelligenza artificiale per generare risposte problematiche, coprendo aree come disinformazione politica, pregiudizi demografici, violazioni della sicurezza informatica e affermazioni sulla sentienza dell’IA.
I risultati rivelano che gli chatbot con intelligenza artificiale sono generalmente restii a violare le proprie regole e linee guida, rendendo difficile ingannarli affinché si comportino in modo inappropriato. Tuttavia, lo studio mostra anche che è relativamente facile farli produrre informazioni inaccurate. I concorrenti hanno avuto alte percentuali di successo nella generazione di errori matematici (76%) e disinformazione geografica (61%). Inoltre, gli chatbot hanno dimostrato una propensione a fornire informazioni legali erronee quando si sono confrontati con domande da parte di avvocati, con una percentuale di successo del 45%.
Il rapporto mette anche in evidenza la vulnerabilità degli chatbot quando si tratta di gestire informazioni sensibili. I concorrenti sono stati in grado di ottenere con successo numeri di carta di credito nascosti e ottenere autorizzazioni amministrative per la rete di una società fittizia in più della metà delle soluzioni presentate.
D’altra parte, i partecipanti hanno avuto difficoltà nel tentare di manipolare gli chatbot per giustificare violazioni dei diritti umani o affermare l’infiorità di certi gruppi. Questi tentativi hanno avuto tassi di successo limitati del 20% e 24%, rispettivamente. Inoltre, le sottomissioni mirate a testare la “soprareazione” degli chatbot, ad esempio attribuire caratteristiche positive a gruppi minoritari rifiutandosi di farlo per gruppi maggioritari, hanno raggiunto una percentuale di successo del 40%. Questo risultato suggerisce che altri modelli di intelligenza artificiale, come Gemini di Google, potrebbero anche mostrare correzioni blande per combattere stereotipi potenzialmente dannosi.
Interessantemente, il rapporto rivela che la strategia più efficace per sviare un chatbot non è hackerarlo, ma iniziare con una premessa falsa. Tecniche note, come chiedere all’chatbot di recitare la parte di un gemello malvagio o di una gentile nonna, si sono rivelate inefficaci. Invece, fare una domanda all’chatbot che contiene un’affermazione o un’ipotesi errata ha portato a risposte plausibili ma inaccurate. Ciò evidenzia i limiti degli chatbot nel differenziare tra realtà e finzione.
Le implicazioni di questi risultati sono di ampia portata. Si richiede uno spostamento di focus per le aziende di intelligenza artificiale, i critici e i regolatori da complesse manipolazioni di input all’esame di come gli chatbot possono confermare o amplificare i pregiudizi e le falsità degli utenti. Comprendere questi potenziali danni è cruciale per lo sviluppo e l’attuazione responsabili dei sistemi di intelligenza artificiale.
Alla luce dell’importanza di valutare i rischi legati all’IA, molte aziende di intelligenza artificiale e regolatori stanno adottando approcci di “red teaming”. Il red teaming prevede valutazioni private dei sistemi assumendo hacker per identificare le vulnerabilità prima del rilascio del sistema. Il rapporto suggerisce che esercitazioni di red teaming pubbliche, come l’evento Def Con, offrono un valore aggiunto incorporando prospettive diverse dal pubblico più ampio. Queste esercitazioni contribuiscono a una comprensione più completa delle sfide poste dai sistemi di intelligenza artificiale.
Inoltre, un altro studio di Anthropic evidenzia le vulnerabilità dei modelli di intelligenza artificiale riguardo a conversazioni prolungate. Se la manipolazione degli input può essere stata affrontata nei modelli di intelligenza artificiale più recenti, la capacità di avere conversazioni estese presenta una nuova forma di sfruttamento chiamata “many-shot jailbreaking”. Ciò dimostra che le stesse caratteristiche che rendono i sistemi di intelligenza artificiale utili possono anche renderli potenzialmente pericolosi.
In conclusione, il rapporto sulle vulnerabilità degli chatbot con intelligenza artificiale offre preziosi spunti nel complesso panorama delle tecnologie di intelligenza artificiale. Sottolinea la necessità di continuare la ricerca, l’interazione pubblica e lo sviluppo responsabile per mitigare i rischi associati a questi sistemi.
Domande Frequenti (FAQ)
The source of the article is from the blog krama.net