Meta, la société mère de Facebook, Instagram et Threads, prend des mesures pour identifier et étiqueter les images générées par l’IA sur ses plateformes. Cette initiative s’inscrit dans les efforts de Meta pour lutter contre la tromperie et rendre compte des personnes qui induisent intentionnellement les autres en erreur. Actuellement, les images photoréalistes générées par l’IA de Meta sont déjà étiquetées en tant que telles. Cependant, dans un article de blog récent, Nick Clegg, le président des Affaires mondiales de Meta, a annoncé que l’entreprise prévoit d’étendre l’étiquetage aux images générées par l’IA créées sur des services rivaux.
Alors que les images générées par l’IA de Meta contiennent déjà des métadonnées et des filigranes invisibles indiquant leur origine par IA, l’entreprise développe des outils pour détecter ces marqueurs lorsqu’ils sont utilisés par d’autres organisations telles que Google, OpenAI, Microsoft, Adobe, Midjourney et Shutterstock. En identifiant et en étiquetant le contenu généré par l’IA, Meta vise à traiter la frontière de plus en plus floue entre le contenu humain et synthétique, en fournissant aux utilisateurs une transparence sur la technologie derrière les images qu’ils rencontrent.
Dans les mois à venir, Meta prévoit d’appliquer ces étiquettes dans toutes les langues. L’entreprise reconnaît l’importance de cet effort, notamment pendant les prochaines élections mondiales importantes. Cependant, il est important de noter que pour l’instant, l’étiquetage se limite aux images et que le contenu audio et vidéo généré par IA ne comprend pas ces marqueurs.
En plus de l’étiquetage, Meta prévoit de placer des étiquettes plus visibles sur les images, vidéos ou audios manipulés ou modifiés numériquement et présentant un risque élevé de tromper le public de manière significative. De plus, l’entreprise explore le développement d’une technologie capable de détecter automatiquement le contenu généré par l’IA, même lorsque ces marqueurs invisibles ont été supprimés ou sont absents.
Clegg a reconnu la nature conflictuelle de cet espace et la nécessité d’une innovation continue pour rester en avance sur ceux qui cherchent à tromper avec du contenu généré par l’IA. Les deepfakes basés sur l’IA ont déjà fait leur apparition lors du cycle des élections présidentielles américaines, et des cas tels que la modification controversée d’une image en Australie se sont produits. Les efforts de Meta pour détecter et étiqueter le contenu généré par l’IA sont donc essentiels pour contrer les pratiques trompeuses.
En favorisant la transparence et en fournissant aux utilisateurs des informations sur la nature du contenu qu’ils rencontrent, Meta vise à créer un environnement numérique plus sûr où les individus peuvent naviguer et interagir avec les médias de manière responsable.
FAQ:
Q : Quelles mesures Meta prend-il pour lutter contre la tromperie sur ses plateformes ?
A : Meta, la société mère de Facebook, Instagram et Threads, identifie et étiquette les images générées par l’IA sur ses plateformes. Cela vise à résoudre le problème du contenu trompeur et à rendre les responsables de la tromperie envers les autres.
Q : Les images générées par l’IA de Meta sont-elles déjà étiquetées en tant que telles ?
A : Oui, les images photoréalistes générées par l’IA de Meta sont déjà étiquetées pour indiquer leur origine par IA.
Q : Meta va-t-il étendre l’étiquetage des images générées par l’IA à des services rivaux ?
A : Oui, selon Nick Clegg, président des Affaires mondiales de Meta, l’entreprise prévoit d’étendre l’étiquetage aux images générées par l’IA créées sur des services rivaux tels que Google, OpenAI, Microsoft, Adobe, Midjourney et Shutterstock.
Q : Quels marqueurs sont utilisés pour indiquer l’origine par IA dans les images générées par l’IA de Meta ?
A : Les images générées par l’IA de Meta contiennent des métadonnées et des filigranes invisibles indiquant leur origine par IA.
Q : Meta développe-t-il des outils pour détecter les marqueurs de l’IA utilisés par d’autres organisations ?
A : Oui, Meta développe des outils pour détecter les marqueurs indiquant l’origine par IA lorsqu’ils sont utilisés par d’autres organisations.
Q : Pourquoi Meta identifie-t-il et étiquette-t-il le contenu généré par l’IA ?
A : Meta vise à résoudre la frontière de plus en plus floue entre le contenu humain et synthétique en fournissant une transparence sur la technologie derrière les images rencontrées par les utilisateurs.
Q : Meta appliquera-t-il ces étiquettes dans toutes les langues ?
A : Oui, Meta prévoit d’appliquer les étiquettes dans toutes les langues dans les mois à venir.
Q : Le contenu audio et vidéo généré par IA comprend-il ces étiquettes ?
A : Non, actuellement, l’étiquetage se limite aux images et ne comprend pas le contenu audio et vidéo généré par IA.
Q : En plus de l’étiquetage, quelles autres mesures Meta prend-il ?
A : Meta prévoit de placer des étiquettes plus visibles sur les images, vidéos ou audios manipulés ou modifiés numériquement et présentant un risque élevé de tromper le public de manière significative. L’entreprise explore également le développement d’une technologie capable de détecter le contenu généré par l’IA même lorsque les marqueurs sont absents ou ont été supprimés.
Q : Pourquoi les efforts de Meta pour détecter et étiqueter le contenu généré par l’IA sont-ils importants ?
A : Des deepfakes basés sur l’IA et des cas de modification d’image controversés se sont produits, soulignant la nécessité de lutter contre les pratiques trompeuses. En détectant et en étiquetant le contenu généré par l’IA, Meta vise à créer un environnement numérique plus sûr.
Q : Comment Meta prévoit-il de créer un environnement numérique plus sûr ?
A : Meta vise à favoriser la transparence et à fournir aux utilisateurs des informations sur la nature du contenu qu’ils rencontrent, permettant aux individus de naviguer et d’interagir avec les médias de manière responsable.
Définitions :
1. Images générées par l’IA : Images créées à l’aide de l’intelligence artificielle, où le logiciel d’IA génère le contenu plutôt qu’un humain.
2. Métadonnées : Informations descriptives sur un fichier, comprenant des détails sur son origine, son créateur et son contenu.
3. Filigranes invisibles : Marqueurs numériques intégrés dans les fichiers média pouvant être utilisés pour identifier leur origine ou suivre une utilisation non autorisée.
Liens suggérés liés :
– Meta : Le site web officiel de Meta, la société mère de Facebook, Instagram et Threads.
– Facebook Newsroom : Fournit des actualités officielles et des mises à jour de Facebook, une filiale de Meta.
– Instagram Press : Offre des communiqués de presse officiels et des mises à jour d’Instagram, une filiale de Meta.
The source of the article is from the blog windowsvistamagazine.es