Alors que la saison des élections en Inde se rapproche, les préoccupations concernant l’impact des deepfakes générés par l’intelligence artificielle (IA) sur les campagnes politiques se font de plus en plus grandes. Les deepfakes, qui sont des images et des vidéos synthétiques et réalistes, sont devenus plus courants et sophistiqués ces dernières années. Ils peuvent manipuler les discours et les apparences des politiciens, créant ainsi un sentiment de doute et de méfiance parmi les électeurs.
Avec la disponibilité de données mobiles bon marché et une pénétration élevée des smartphones en Inde, il existe des craintes que les deepfakes ne se propagent via des plateformes comme WhatsApp, influençant ainsi les décisions des électeurs ou les amenant à remettre en question l’importance de leur vote.
Pour répondre à ces préoccupations, le Ministère indien de l’Électronique et de la Technologie de l’Information a récemment émis un avis aux entreprises d’IA générative. Cet avis stipule que si ces entreprises proposent des systèmes d’IA encore en phase de test ou peu fiables, elles doivent obtenir une autorisation explicite du gouvernement et étiqueter les sorties en conséquence. L’objectif est d’éviter la génération de contenus illégaux ou trompeurs qui pourraient compromettre le processus électoral.
Cependant, cet avis a suscité de vives réactions de la part des acteurs nationaux et internationaux de l’IA. Beaucoup soutiennent qu’il entrave l’innovation et la liberté d’expression. Le Ministre d’État pour l’Électronique et la Technologie de l’Information, Rajeev Chandrasekhar, a clarifié que l’avis ne s’applique pas aux start-ups, ce qui a apporté un certain soulagement. Néanmoins, les préoccupations concernant la mauvaise utilisation de la technologie de l’IA persistent.
En réponse à ces préoccupations, Senthil Nayagam, le fondateur de la start-up Muonium AI, a créé un ‘Manifeste de la Coalition pour une IA Éthique’ avant les élections. Ce manifeste vise à garantir que les technologies d’IA soient utilisées de manière responsable et ne manipulent pas les élections, ne propagent pas de désinformation ou n’érodent pas la confiance du public dans les institutions politiques. Nayagam a contacté environ 30 entreprises, dont deux ont déjà signé le manifeste et trois sont en cours de signature.
Toutes les créations d’IA ne sont pas de sinistres deepfakes destinés à diffamer les adversaires. Certaines applications, telles que les appels téléphoniques interactifs personnalisés, servent plus de curiosités que de menaces pour l’intégrité électorale. Par exemple, les partis politiques en Inde ont utilisé des voix synthétisées pour envoyer des messages préenregistrés adressant individuellement les électeurs par leur nom. Bien que ces applications puissent sembler inoffensives, il est important de considérer le potentiel de mauvaise utilisation.
Divyendra Singh Jadoun, un créateur d’IA connu sous le nom de ‘The Indian Deepfaker’, a formé des modèles d’IA vocale et vidéo pour distribuer des messages personnalisés pour les partis politiques. Il prétend travailler sur des créations d’IA « éthiques », telles que des traductions autorisées et des réincarnations de dirigeants décédés, avec l’approbation du parti. Cependant, il reconnaît qu’avec la démocratisation croissante de la technologie deepfake, les partis produisent de plus en plus leurs propres deepfakes, facilitant la propagation de la désinformation.
Des experts du domaine, tels que Karen Rebelo du site de vérification des faits BOOM, ont noté une augmentation significative des deepfakes d’IA lors des récentes élections législatives en Inde. La technologie est devenue moins chère et plus accessible, permettant à quiconque disposant d’un ordinateur portable de créer des deepfakes. Cela soulève des inquiétudes quant à l’impact potentiel des deepfakes sur l’équité et la transparence des élections.
Alors que les deepfakes d’IA suscitent des inquiétudes, ils ont également le potentiel d’être utilisés à des fins positives. Les technologies d’IA peuvent jouer un rôle positif en améliorant le processus démocratique, telles que l’amélioration de l’accessibilité pour les électeurs handicapés ou la fourniture de traductions précises des discours politiques. La clé réside dans le fait de veiller à ce que ces technologies soient utilisées de manière éthique et responsable.
Alors que l’Inde se prépare pour les prochaines élections, il est essentiel que le gouvernement, les entreprises d’IA et les partis politiques collaborent pour établir des lignes directrices claires et des réglementations pour l’utilisation de l’IA dans les campagnes politiques. En privilégiant la transparence, la responsabilité et l’intégrité du processus électoral, l’Inde peut exploiter le potentiel de l’IA tout en atténuant les risques qu’elle pose.
Les impacts et les préoccupations entourant les deepfakes dans les campagnes politiques ne se limitent pas à l’Inde uniquement. L’utilisation de la technologie deepfake est devenue une question mondiale, avec des implications pour divers secteurs et marchés.
L’industrie des deepfakes est en passe de connaître une croissance significative au cours des prochaines années. Selon un rapport de MarketsandMarkets, le marché mondial des deepfakes devrait atteindre une valeur de 304,3 millions de dollars d’ici 2026, avec un taux de croissance annuel composé (TCAC) de 37,3% de 2021 à 2026. Cette croissance du marché peut être attribuée à l’utilisation croissante de la technologie de l’IA et à la prise de conscience croissante des deepfakes.
L’impact potentiel des deepfakes va au-delà des campagnes politiques. Des industries telles que le divertissement, la cybersécurité et le journalisme sont également confrontées à des défis liés à la technologie des deepfakes. Dans l’industrie du divertissement, par exemple, les deepfakes peuvent être utilisés pour manipuler l’apparence des acteurs ou créer des avatars virtuels réalistes. Cela soulève des préoccupations concernant la vie privée, les droits de propriété intellectuelle et l’authenticité du contenu.
Dans le domaine de la cybersécurité, les deepfakes posent une menace significative. Des vidéos et des images falsifiées peuvent être utilisées pour tromper des individus ou obtenir un accès non autorisé aux systèmes. Les cybercriminels peuvent exploiter les deepfakes pour créer des attaques de phishing convaincantes ou manipuler des preuves numériques lors de procédures judiciaires.
Le journalisme est un autre secteur affecté par les deepfakes. La propagation de la désinformation et l’érosion de la confiance du public sont des défis importants auxquels les journalistes sont confrontés à l’ère des deepfakes. Les organisations d’information doivent développer des techniques de vérification des faits solides et sensibiliser le public à la détection et à la vérification de l’authenticité du contenu.
En réponse à la menace croissante des deepfakes, diverses initiatives et organisations ont émergé pour lutter contre leurs effets négatifs. Une de ces initiatives est le Défi de Détection des Deepfakes (DFDC), organisé par une collaboration entre Facebook, Microsoft, le Partenariat sur l’IA et plusieurs institutions académiques. Le DFDC vise à développer et à faire progresser des méthodes de détection pour identifier les deepfakes, contribuant ainsi à limiter leur propagation.
La responsabilité de traiter la question des deepfakes va au-delà des réglementations gouvernementales et des initiatives de l’industrie. Les individus doivent également être conscients de l’existence des deepfakes et être prudents quant au contenu qu’ils consomment et partagent. Vérifier les informations, vérifier les sources et promouvoir la culture médiatique sont des étapes essentielles pour lutter contre la propagation des deepfakes.
Bien que la lutte contre les deepfakes soit une tâche complexe, les avancées de la technologie de l’IA peuvent également être exploitées pour développer des outils de détection et de limitation de leur impact. Les algorithmes d’apprentissage automatique peuvent être formés pour identifier les anomalies dans les vidéos ou les images et distinguer le contenu authentique du contenu manipulé. La recherche continue et la collaboration entre les entreprises technologiques, les chercheurs et les décideurs sont cruciales pour relever efficacement les défis liés aux deepfakes.
Liens connexes :
– Rapport sur le marché des deepfakes de MarketsandMarkets
– Détection des Deepfakes
The source of the article is from the blog mendozaextremo.com.ar