Mentre la portata e l’impatto dei contenuti generati dall’Intelligenza Artificiale continuano a crescere, i ricercatori di Mozilla evidenziano che i metodi attuali per rilevare e divulgare i contenuti basati sull’IA sono inadeguati per contrastare i rischi associati alla disinformazione generata dall’IA. Nel loro rapporto, sostengono che fare affidamento unicamente su soluzioni tecniche potrebbe distogliere l’attenzione dall’affrontare le problematiche sistemiche più ampie in gioco. Le piattaforme dei social media, che fungono da canali cruciali per la circolazione dei contenuti, non solo agevolano ma amplificano anche l’impatto dei contenuti generati dall’IA. Inoltre, l’incentivazione algoritmica di contenuti emotivamente carichi ed agitanti esacerba la diffusione di contenuti sintetici, creando un pericoloso ciclo.
Per affrontare questa complessa questione, Mozilla propone un approccio poliedrico che combina soluzioni tecniche con maggiore trasparenza, miglioramento della cultura mediatica e attuazione di regolamentazioni. Sottolineando il Digital Services Act dell’Unione Europea come un passo pragmatico nella giusta direzione, Mozilla enfatizza l’importanza che le piattaforme adottino misure per affrontare il problema senza prescrivere soluzioni specifiche da seguire.
Nel campo della rilevazione di deepfake e disinformazione generati dall’IA, le aziende stanno sviluppando i propri strumenti per contrastare il problema. Pindrop, un fornitore di sicurezza audio basato sull’IA, ha recentemente rilasciato uno strumento per rilevare l’audio generato dall’IA analizzando i pattern presenti nelle chiamate telefoniche. Esaminando anomalie spaziali e temporali nell’audio registrato, lo strumento di Pindrop può distinguere tra chiamate in diretta e audio generato dall’IA. Anche se questi progressi sono promettenti, Pindrop riconosce che mantenere il passo con i malintenzionati che continuamente sviluppano nuovi strumenti migliorati è essenziale. La trasparenza e la spiegabilità degli strumenti basati sull’IA sono cruciali per costruire fiducia e contrastare efficacemente la disinformazione.
La lotta contro la disinformazione generata dall’IA va oltre le soluzioni tecniche. Reddit, nei suoi depositi di IPO proposti, ha rivelato come la vasta quantità di contenuti generati dagli utenti possa essere utilizzata per addestrare grandi modelli linguistici (LLM). Gli accordi di licenza dati con altre aziende, come il recente accordo con Google, mettono in luce il valore dei dati conversazionali di Reddit. Tuttavia, Reddit riconosce che i LLM potrebbero potenzialmente competere con la propria piattaforma principale, poiché gli utenti potrebbero preferire accedere alle informazioni attraverso modelli addestrati con i dati di Reddit.
In generale, affrontare la disinformazione generata dall’IA richiede un approccio completo che includa progressi tecnici, trasparenza, cultura mediatica e misure regolamentari. Poiché la tecnologia continua a evolversi, rimanere vigili e adattarsi al mutante panorama saranno cruciali per mitigare i rischi associati ai contenuti generati dall’IA.
The source of the article is from the blog regiozottegem.be