Con l’avvicinarsi della stagione elettorale in India, aumentano le preoccupazioni sull’impatto delle deepfake, ovvero immagini e video sintetici e realistici creati con l’intelligenza artificiale (AI), sulle campagne politiche. Le deepfake sono diventate sempre più diffuse e sofisticate negli ultimi anni, in grado di manipolare discorsi e apparenze dei politici, creando un senso di dubbio e diffidenza tra gli elettori.
A fronte dell’ampia disponibilità di dati mobili economici e dell’alta penetrazione degli smartphone in India, sorge il timore che le deepfake possano essere diffuse tramite piattaforme come WhatsApp, influenzando le decisioni degli elettori o inducendoli a mettere in discussione l’importanza dei propri voti.
Per affrontare queste preoccupazioni, di recente il Ministero dell’Elettronica e delle Tecnologie dell’Informazione indiano ha emesso un avviso alle aziende che sviluppano AI generative. Secondo l’avviso, se queste aziende offrono sistemi AI ancora in fase di test o non affidabili, devono ottenere un’autorizzazione esplicita dal governo e etichettare adeguatamente gli output. L’obiettivo è evitare la creazione di contenuti illegali o fuorvianti che potrebbero minare il processo elettorale.
Tuttavia, questo avviso ha ricevuto pesanti critiche sia da attori nazionali che internazionali del settore dell’AI. Molti sostengono che limiti l’innovazione e la libertà di espressione. Il Ministro di Stato per l’Elettronica e le Tecnologie dell’Informazione, Rajeev Chandrasekhar, ha chiarito che l’avviso non si applica alle start-up, cosa che ha portato un certo sollievo. Tuttavia, le preoccupazioni sull’abuso della tecnologia AI persistono.
In risposta a queste preoccupazioni, Senthil Nayagam, il fondatore della start-up Muonium AI, ha redatto un ‘Manifesto della Coalizione per un’AI Etica’ in vista delle elezioni. Questo manifesto mira a garantire che le tecnologie AI vengano utilizzate in modo responsabile e non manipolino le elezioni, diffondano disinformazione o erodano la fiducia pubblica nelle istituzioni politiche. Nayagam si è rivolto a circa 30 aziende, con due già firmatarie del manifesto e altre tre in fase di firma.
Non tutte le creazioni AI sono sinistre deepfake mirate a diffamare gli avversari. Alcune applicazioni, come le chiamate telefoniche interattive personalizzate, servono più come novità che come minacce all’integrità elettorale. Ad esempio, i partiti politici in India hanno utilizzato voci sintetizzate per inviare messaggi preregistrati che si rivolgono agli elettori individualmente per nome. Anche se queste applicazioni possono sembrare innocue, è importante considerarne il potenziale di abuso.
Divyendra Singh Jadoun, un creatore di AI conosciuto come The Indian Deepfaker, ha addestrato modelli AI vocali e video per distribuire messaggi personalizzati per i partiti politici. Afferma di lavorare su creazioni AI “etiche”, come traduzioni autorizzate e resuscitazioni di leader deceduti, con l’approvazione del partito. Tuttavia, riconosce che con la tecnologia deepfake che diventa sempre più accessibile, i partiti producono sempre più le proprie deepfake, facilitando la diffusione della disinformazione.
Esperti del settore, come Karen Rebelo dal sito di fact-checking BOOM, hanno notato un significativo aumento delle deepfake AI durante le recenti elezioni di assemblea in India. La tecnologia è diventata più economica e accessibile, consentendo a chiunque abbia un computer portatile di creare deepfake. Ciò solleva preoccupazioni sull’impatto potenziale delle deepfake sulla correttezza e la trasparenza delle elezioni.
Sebbene le deepfake AI siano motivo di preoccupazione, hanno anche il potenziale di essere utilizzate per il bene. Le tecnologie AI possono svolgere un ruolo positivo nel migliorare il processo democratico, ad esempio migliorando l’accessibilità per gli elettori disabili o fornendo traduzioni accurate dei discorsi politici. La chiave sta nell’assicurarsi che queste tecnologie vengano utilizzate in modo etico e responsabile.
Mentre l’India si prepara alle prossime elezioni, è essenziale che il governo, le aziende di AI e i partiti politici lavorino insieme per stabilire linee guida e regolamenti chiari sull’uso dell’AI nelle campagne politiche. Prioritizzando la trasparenza, la responsabilità e l’integrità del processo elettorale, l’India può sfruttare il potenziale dell’AI mitigando i rischi che essa comporta.
L’impatto e le preoccupazioni legate alle deepfake nelle campagne politiche non si limitano solo all’India. L’uso della tecnologia deepfake è diventato una questione globale, con implicazioni per vari settori e mercati.
L’industria delle deepfake è pronta a crescere significativamente nei prossimi anni. Secondo un rapporto di MarketsandMarkets, il mercato globale delle deepfake è proiettato a raggiungere un valore di $304,3 milioni entro il 2026, con un tasso di crescita annuo composto (CAGR) del 37,3% dal 2021 al 2026. Questa crescita di mercato può essere attribuita all’uso crescente della tecnologia AI e alla maggiore consapevolezza delle deepfake.
L’eventuale impatto delle deepfake si estende oltre le campagne politiche. Settori come l’intrattenimento, la cybersecurity e il giornalismo affrontano sfide legate alla tecnologia deepfake. Nell’industria dell’intrattenimento, ad esempio, le deepfake possono essere utilizzate per manipolare le apparenze degli attori o creare avatar virtuali realistici. Ciò solleva preoccupazioni sulla privacy, i diritti di proprietà intellettuale e l’autenticità dei contenuti.
Nell’ambito della cybersecurity, le deepfake costituiscono una minaccia significativa. Video e immagini false possono essere utilizzati per ingannare le persone o ottenere accesso non autorizzato ai sistemi. I criminali informatici possono sfruttare le deepfake per creare convincenti attacchi di phishing o manipolare prove digitali durante procedimenti legali.
Anche il giornalismo è un settore colpito dalle deepfake. La diffusione di disinformazione e l’erosione della fiducia pubblica sono sfide significative affrontate dai giornalisti nell’era delle deepfake. Le organizzazioni giornalistiche devono sviluppare solide tecniche di fact-checking ed educare il pubblico sul riconoscimento e la verifica dell’autenticità dei contenuti.
In risposta alla crescente minaccia delle deepfake, sono emerse varie iniziative e organizzazioni per contrastarne gli effetti negativi. Una di queste iniziative è la Deepfake Detection Challenge (DFDC), organizzata dalla collaborazione tra Facebook, Microsoft, il Partnership on AI e diverse istituzioni accademiche. Il DFDC mira a sviluppare e promuovere metodi di rilevamento per identificare le deepfake, contribuendo a limitarne la diffusione.
La responsabilità di affrontare il problema delle deepfake va oltre le regolamentazioni governative e le iniziative del settore. Anche gli individui devono essere consapevoli dell’esistenza delle deepfake e cautelativi riguardo ai contenuti che consumano e condividono. Il fact-checking delle informazioni, la verifica delle fonti e la promozione della alfabetizzazione mediatica sono passaggi essenziali per contrastare la diffusione delle deepfake.
Affrontare le deepfake è un compito complesso, ma i progressi nella tecnologia AI possono anche essere sfruttati per sviluppare strumenti per rilevare e mitigare il loro impatto. Gli algoritmi di machine learning possono essere addestrati per identificare anomalie nei video o nelle immagini e distinguere tra contenuti autentici e manipolati. La ricerca in corso e la collaborazione tra aziende tecnologiche, ricercatori e responsabili politici sono cruciali per affrontare in modo efficace le sfide legate alle deepfake.
MarketsandMarkets Deepfake Market Report, Deepfake Detection
—
FAQ
The source of the article is from the blog papodemusica.com