Le visage d’Olga Loiek a été détourné pour propager une histoire qu’elle n’avait jamais approuvée. Sur les plateformes de médias sociaux chinoises, son visage a donné des approbations et des messages en mandarin, une langue étrangère pour elle. Elle est tombée sur des doublons générés par IA d’elle-même diffusant des vidéos qu’elle n’avait jamais consenti à créer. Ces vidéos portaient divers noms russes et semblaient promouvoir les liens russo-chinois ou les produits russes.
Parmi les imposteurs, un compte avec des abonnés importants a abusé de son image en faisant l’éloge des vertus de la Russie et en vendant des confiseries russes. Cela a suscité de profondes inquiétudes pour Loiek, non seulement en raison de ses origines ukrainiennes, mais aussi en raison des implications plus larges de telles technologies IA non contrôlées.
Après avoir lancé sa propre chaîne YouTube, il a suffi d’un mois pour qu’Olga commence à recevoir des messages concernant son double généré par IA parlant mandarin. Il est apparu sur des applications chinoises ressemblant à Instagram et YouTube, vantant de nombreux comptes créés avec son image, soulignés par le drapeau russe.
En réponse aux protestations sur les réseaux sociaux de son partenaire, des plateformes comme HeyGen ont reconnu l’utilisation non autorisée de l’image d’Olga pour fabriquer plus de 4 900 vidéos. Ils ont depuis interdit tout nouvel abus et renforcé leurs protocoles de sécurité.
Malgré les premières tentatives de la Chine pour réglementer l’IA, y compris des amendements pour protéger les images des citoyens, une économie souterraine prospérait sur de telles violations d’identité. Des arrestations et des procès ont commencé à émerger, mais faire respecter les réglementations de manière uniforme reste difficile.
Le calvaire d’Olga dépasse une violation personnelle ; il a mis en lumière la lutte pour la réglementation dans un paysage technologique en évolution exponentielle. Alors que des initiatives internationales, comme l’AI Act du Parlement européen, tentent de suivre le rythme, les individus doivent faire face à la façon de protéger leurs identités numériques dans cet environnement turbulent. Olga, déterminée à ne pas se retirer du monde numérique, a utilisé sa plateforme pour partager son histoire et sensibiliser au potentiel de tromperie du contenu en ligne.
Questions et Réponses Importantes :
1. Quelles sont les implications de l’utilisation abusive des ressemblances personnelles par la technologie IA sans consentement ?
2. Comment Olga Loiek a-t-elle découvert son double généré par IA ?
3. Quelles mesures les plateformes de médias sociaux ont-elles prises en réponse aux protestations du partenaire d’Olga ?
4. Quels défis existent dans la réglementation de la technologie IA ?
The source of the article is from the blog scimag.news