La mauvaise utilisation de l’intelligence artificielle suscite l’alarme
La propagation de contenus fabriqués via des outils d’intelligence artificielle (IA) est devenue une tendance préoccupante. Récemment, aux États-Unis, ce problème a touché de près Eric Eiswert, le directeur de Pikesville High School dans le Maryland, qui s’est retrouvé impliqué dans un scandale falsifié. Un enregistrement audio délibérément modifié a falsifié la voix d’Eiswert pour faire passer des remarques antisémites et racistes. Le contenu manipulé a rapidement circulé en ligne, entraînant une vague de critiques et d’allégations de discrimination raciale à son encontre.
La police a soupçonné un employé mécontent de l’école d’avoir créé l’audio trafiqué. Alors que l’audio se propageait sur les réseaux sociaux, suscitant des milliers de commentaires et atteignant les fils d’actualités des influenceurs en vue, des appels à la destitution d’Eiswert se sont multipliés. Une personnalité des médias sociaux comptant près d’un million de followers s’est précipitée pour juger avant que les faits ne soient révélés.
Le coupable derrière le canular généré par l’IA appréhendé
Alors que la controverse était à son comble, la police a arrêté Dazhon Darien, âgé de 31 ans, responsable du département d’éducation physique de l’école, pour la fabrication et la diffusion de l’audio. Cette confession a calmé la tempête, mais n’a pas apaisé l’inquiétude parmi le personnel de l’école, qui craignait la présence de dispositifs d’enregistrement cachés et faisait face à des messages menaçants en ligne.
L’incident à Pikesville High School fait suite à l’agitation d’un autre scandale de deepfake impliquant un faux appel automatisé se faisant passer pour le président Joe Biden, trompant les résidents du New Hampshire lors d’un événement électoral clé. Avec la pornographie facilitée par l’IA dans les écoles compliquant davantage les problèmes, l’impératif d’une réglementation au niveau fédéral des outils d’IA devient évident. Hany Farid, expert en informatique légale à l’Université de Californie à Berkeley, met en garde contre la vulnérabilité de chacun, des personnalités publiques au citoyen moyen, face à une telle technologie trompeuse, en particulier avec des élections mondiales cruciales à l’horizon.
Selon un membre de l’équipe de direction de Siemens AG, si l’IA renforce le potentiel humain, l’avenir verra probablement les gens se concentrer sur le développement d’idées, l’amélioration des produits et de la productivité. Cependant, à mesure que les capacités de l’IA évoluent rapidement, la nécessité d’une supervision rigoureuse augmente également.
Défis et controverses liés au contenu fabriqué par l’IA
L’un des principaux défis associés au contenu fabriqué par l’IA, comme les deepfakes, est l’érosion de la confiance. À mesure que l’IA devient plus sophistiquée, la distinction entre contenu authentique et manipulé devient de plus en plus difficile pour la personne moyenne. Cela menace la crédibilité des informations partagées en ligne, ce qui peut avoir des conséquences sociales et politiques importantes.
Une grande controverse réside dans l’équilibre entre les avantages de la technologie de l’IA et son utilisation potentielle nocive. D’une part, l’IA peut être une force pour le bien, aidant dans la recherche, les soins de santé et la productivité. D’autre part, la même technologie peut être utilisée pour créer des contenus trompeurs, porter atteinte à la vie privée et manipuler les perceptions.
Questions et réponses
Q: Quels défis présentent les médias modifiés par l’IA?
R: Les médias modifiés par l’IA peuvent compromettre la confiance du public, entraîner des accusations infondées et perturber les processus démocratiques équitables en propageant des désinformations.
Q: Comment le directeur de l’école a-t-il été disculpé?
R: Une fois que l’origine du deepfake a été découverte et le véritable coupable appréhendé, le directeur a été disculpé des accusations de racisme.
Avantages et inconvénients de la technologie de l’IA
Avantages:
– L’IA peut grandement améliorer l’efficacité et la productivité dans divers domaines.
– Elle peut traiter de grandes quantités de données pour fournir des informations et stimuler l’innovation.
– Les applications de l’IA peuvent améliorer l’accessibilité aux services et aux informations.
Inconvénients:
– Le contenu faux généré par l’IA menace l’intégrité des informations.
– Il existe un risque d’usurpation et de mauvaise utilisation de l’identité d’une personne et de son image.
– La régulation de la technologie de l’IA est difficile, nécessitant de nouvelles lois et une compréhension du paysage technologique en évolution rapide.
Pour ceux qui s’intéressent au sujet plus général de l’intelligence artificielle et de ses impacts sociétaux, un point de départ utile pourrait être le site web d’une organisation de recherche en IA renommée. Un de ces instituts est OpenAI, accessible à l’adresse OpenAI. Pour des informations sur les implications légales et éthiques de l’IA, l’Institut AI Now, accessible à l’adresse Institut AI Now, propose des ressources et des recherches pertinentes. Veuillez noter que ces URL correspondent aux domaines principaux de ces organisations réputées et étaient valides au moment de la communication de ces informations. Comme toujours, il est recommandé de faire preuve de diligence lorsque vous consultez ces ressources Internet ou toute autre.