Kevin TopolskyI ricercatori rimuovono i collegamenti alle immagini dannose
I ricercatori nel campo dell’intelligenza artificiale hanno preso provvedimenti decisi rimuovendo oltre 2000 collegamenti a immagini raffiguranti abusi sessuali su minori da un noto dataset utilizzato per addestrare strumenti di generazione di immagini basati su intelligenza artificiale.
Copertura continua sul canale Telegram
Secondo un recente rapporto dell’Associated Press, il “Lion Research Database”, un vasto indice di immagini online e annotazioni, che è stato una fonte per i principali creatori di immagini basati su intelligenza artificiale, è stato trovato contenere collegamenti espliciti a immagini di abusi sessuali su minori.
Misure adottate per combattere gli abusi
Lo scorso anno, uno studio dello Stanford Internet Observatory ha evidenziato l’esistenza di collegamenti espliciti a immagini di abusi sessuali su minori all’interno del database “Lion”, consentendo ad alcuni strumenti di intelligenza artificiale di produrre immagini false realistiche di bambini.
Sforzi collaborativi per un futuro più sicuro
In risposta alle scoperte, il database di ricerca “Lion” ha prontamente rimosso il suo dataset. Lavorando in collaborazione con l’Università di Stanford, così come con organizzazioni contro lo sfruttamento in Canada e nel Regno Unito, “Lion” ha fatto sforzi per correggere il problema e rilasciare un dataset rivisto per la ricerca futura sull’IA.
Affrontare le sfide future
Anche se sono stati riconosciuti notevoli miglioramenti, sono necessari ulteriori passi per rimuovere eventuali “modelli contaminati” che possono ancora generare immagini dannose di minori. Gli sforzi sono in corso per garantire la sicurezza e il benessere dei minori online.
Responsabilità e responsabilità dell’industria
Uno degli strumenti di intelligenza artificiale collegati al dataset “Lion”, identificato come il “modello più popolare per generare immagini esplicite”, è stato rimosso dal repository dei modelli di intelligenza artificiale da un’azienda con sede a New York. L’azienda ha sottolineato l’importanza di mantenere attivamente elevati standard etici nella ricerca sull’IA.
È cruciale affrontare problemi di abuso della tecnologia per proteggere i bambini a livello globale, come evidenziato nei rapporti e negli sforzi di ricerca in corso.
