Lidia PerskaÀ l’heure de l’avènement du numérique, le Royaume-Uni s’efforce d’utiliser l’intelligence artificielle pour créer un environnement en ligne plus sûr pour ses jeunes citoyens. Malgré les controverses persistantes entourant l’IA, notamment en ce qui concerne la désinformation et la fraude en ligne, l’organisme de réglementation britannique Ofcom s’efforce de mettre en œuvre cette technologie avancée pour protéger les enfants des contenus en ligne nocifs.
Le régulateur met en place une phase de consultation durant laquelle les applications actuelles et potentielles de l’IA et d’autres outils automatisés seront évaluées pour leur capacité à détecter et éliminer de manière préventive les contenus illégaux sur Internet. Cette démarche vise principalement à protéger les enfants des contenus illicites et à lutter contre les abus sexuels sur mineurs, suite aux informations fournies dans un rapport de Techcrunch.
Ofcom se concentre sur le développement d’une gamme d’outils de sécurité en ligne dédiés aux enfants. Dès les prochaines semaines, la période de consultation débutera, avec des plans d’intégration des systèmes d’IA plus tard dans l’année. Ces capacités en IA serviront de base à l’intégration technologique dans les systèmes de surveillance en ligne.
Selon le directeur d’Ofcom, Mark Bunting, lors de son entretien avec la presse, il a été observé que certaines plateformes utilisent déjà des outils similaires pour repérer et protéger les enfants de contenus en ligne nocifs. Cependant, Bunting souligne un manque de données complètes sur l’efficacité de ces outils. C’est dans cette optique que le régulateur cherche à garantir que l’industrie n’utilise pas seulement ces outils, mais les gère également, en équilibrant les préoccupations de liberté d’expression et de confidentialité.
De plus, le plan réglementaire stipule que les plateformes adoptant des outils de sécurité plus sophistiqués pourraient encourir des pénalités si elles ne mettent pas en place des mesures pour bloquer le contenu inapproprié ou protéger les enfants contre son accès. Ofcom place ainsi la responsabilité sur les entreprises pour qu’elles renforcent et adoptent les outils nécessaires afin de sécuriser l’espace en ligne pour ses utilisateurs.
Selon une recherche d’Ofcom, le Royaume-Uni observe une hausse de la connexion en ligne des jeunes enfants, ce qui a entraîné la création de nouveaux groupes démographiques pour cartographier l’accès des jeunes aux plateformes numériques. Il a été constaté qu’une part significative d’enfants dès l’âge de cinq ans est déjà active sur des plateformes de médias sociaux telles que WhatsApp, TikTok, Instagram, voire Discord, et que beaucoup possèdent des smartphones ou utilisent des tablettes.
La recherche met en évidence que bien que la grande majorité des parents discutent de la sécurité en ligne avec leurs enfants, il existe souvent un décalage entre ce que les jeunes rencontrent en ligne et ce qu’ils rapportent à leurs parents. Les entretiens directs avec des enfants de 8 à 17 ans ont révélé que même s’ils ont déjà été confrontés à des contenus préoccupants en ligne, l’incidence du signalement de tels contenus est faible. Ce décalage souligne la nécessité de mesures renforcées pour aider les enfants à naviguer de manière sécurisée dans le monde en ligne.
Pour plus d’informations sur Ofcom et ses initiatives, veuillez consulter le site web d’Ofcom via le lien suivant : Ofcom.
