L’avanzamento della tecnologia dell’intelligenza artificiale (IA) ha portato numerosi benefici e progressi in vari settori. Tuttavia, in mezzo a questo progresso, è emerso il lato oscuro dell’IA, poiché esperti di sicurezza dei minori e ricercatori mettono in guardia sui potenziali rischi che essa comporta nell’aggravare lo sfruttamento online.
Secondo il National Center for Missing and Exploited Children (NCMEC) degli Stati Uniti, sono stati segnalati 4.700 casi l’anno scorso riguardanti contenuti generati dall’IA che rappresentavano lo sfruttamento sessuale dei minori. Questo allarmante dato indica l’emergere di un problema che si prevede possa crescere con l’evoluzione della tecnologia dell’IA.
Sebbene il NCMEC non abbia ancora divulgato il numero totale di segnalazioni di contenuti di abuso sui minori ricevute da tutte le fonti nel 2023, l’organizzazione ha rivelato di aver ricevuto circa 88,3 milioni di file solo nel 2022. Queste segnalazioni provengono dalle stesse aziende di IA generativa, dalle piattaforme online e dalle persone che si imbattono in tali contenuti disturbanti.
Riconoscendo l’urgente necessità di affrontare questa problematica, il NCMEC svolge un ruolo cruciale come centro nazionale per la segnalazione di contenuti di abuso sui minori alle agenzie di applicazione della legge. John Shehan, vice presidente senior del NCMEC, ha sottolineato che lo sfruttamento dei minori facilitato dall’IA sta indubbiamente accadendo.
Recentemente, i CEO di Meta Platforms, X, TikTok, Snap e Discord sono stati sottoposti a interrogatorio in un’audizione del Senato focalizzata sulla sicurezza dei minori online. I legislatori hanno indagato su questi social media e aziende di messaggistica riguardo ai loro sforzi per proteggere i minori dai predatori online.
I ricercatori del Stanford Internet Observatory hanno pubblicato un rapporto a giugno, evidenziando la preoccupante possibilità che gli abusatori utilizzino l’IA generativa per creare nuove immagini che assomigliano da vicino a bambini reali. Man mano che questi materiali generati dall’IA diventano sempre più fotorealistici, distinguere tra vittime reali e creazioni dell’IA rappresenta una sfida significativa.
Per contrastare questo problema in crescita, OpenAI, l’organizzazione che si trova dietro il popolare ChatGPT, ha messo in atto un sistema per inviare segnalazioni al NCMEC. Inoltre, sono in corso conversazioni tra il NCMEC e altre aziende di IA generativa per stabilire misure simili.
La diffusione dell’IA comporta sia innovazione che responsabilità. Mentre la società continua ad abbracciare la tecnologia dell’IA, è fondamentale rimanere vigili nel affrontare le preoccupazioni emergenti per salvaguardare il benessere delle persone vulnerabili, in particolare dei minori.
FAQ:
D: Cosa si intende con il lato oscuro dell’IA?
R: Il lato oscuro dell’IA si riferisce ai potenziali rischi e alle implicazioni negative della tecnologia dell’intelligenza artificiale, in particolare nell’aggravare lo sfruttamento online.
D: Quanti sono stati i rapporti l’anno scorso riguardo ai contenuti generati dall’IA che rappresentano lo sfruttamento sessuale dei minori?
R: Secondo il NCMEC, l’anno scorso sono stati segnalati 4.700 casi riguardanti contenuti generati dall’IA che rappresentano lo sfruttamento sessuale dei minori.
D: Quanti file ha ricevuto il NCMEC nel 2022 relativi a contenuti di abuso sui minori?
R: Il NCMEC ha ricevuto circa 88,3 milioni di file nel 2022 relatavi a contenuti di abuso sui minori.
D: Qual è il ruolo del NCMEC nell’affrontare questa problematica?
R: Il NCMEC svolge un ruolo cruciale come centro nazionale per la segnalazione di contenuti di abuso sui minori alle agenzie di applicazione della legge.
D: Quali sono le aziende di social media e messaggistica che sono state interrogate in un’audizione del Senato riguardo alla sicurezza dei minori online?
R: I CEO di Meta Platforms, X, TikTok, Snap e Discord sono stati interrogati in un’audizione del Senato riguardo alla sicurezza dei minori online.
D: Cosa ha evidenziato il rapporto del Stanford Internet Observatory?
R: Il rapporto del Stanford Internet Observatory ha evidenziato la preoccupante possibilità che gli abusatori utilizzino l’IA generativa per creare nuove immagini che assomigliano da vicino a bambini reali.
D: Quali misure hanno adottato OpenAI e altre aziende di IA generativa per contrastare questo problema?
R: OpenAI ha istituito un sistema per inviare segnalazioni al NCMEC e sono in corso conversazioni tra il NCMEC e altre aziende di IA generativa per stabilire misure simili.
Definizioni:
– IA (Intelligenza Artificiale): Tecnologia che consente alle macchine di svolgere compiti che richiederebbero tipicamente intelligenza umana.
– Contenuti di abuso sui minori: Contenuti che rappresentano lo sfruttamento sessuale o l’abuso dei minori.
– IA generativa: Intelligenza artificiale in grado di generare nuovi dati o contenuti, come immagini o testo.
– NCMEC (National Center for Missing and Exploited Children): Un’organizzazione nazionale che si concentra sulla prevenzione dell’abduzione di minori, lo sfruttamento sessuale dei minori e la ricerca dei bambini scomparsi.
– Aziende di social media e messaggistica: Aziende che forniscono piattaforme online e servizi per consentire agli utenti di connettersi, comunicare e condividere contenuti con gli altri.
Link correlati suggeriti:
National Center for Missing and Exploited Children
OpenAI
Stanford University
The source of the article is from the blog rugbynews.at