Kunstmatige intelligentie (AI) is steeds meer aanwezig in het leven van kinderen, maar het kan soms schadelijke inhoud die ze online tegenkomen versterken, waarschuwt de mediaregulator Coimisiún na Meán. Tijdens een toespraak voor de Kindercommissie benadrukt de online veiligheidscommissaris Niamh Hodnett dat AI oorspronkelijk niet is ontworpen met kinderen in gedachten en ook geen prioriteit geeft aan veiligheid. Hoewel technologieën zoals generatieve AI, chatbots en interactieve spelletjes kunnen helpen bij het leren en spelen van kinderen, brengen ze ook risico’s met zich mee.
Een van de belangrijkste zorgen van Coimisiún na Meán is de kwestie van kinderen die te veel vertrouwen stellen in AI-systemen. Deze systemen kunnen soms onjuiste of misleidende informatie verstrekken, waardoor kinderen worden blootgesteld aan inhoud die niet geschikt is voor hun leeftijd. Bovendien vormen de manipulatie van beelden via deepfakes en de creatie van door AI gegenereerd materiaal voor seksueel misbruik van kinderen opkomende bedreigingen.
De Oireachtas Kindercommissie heeft onlangs de discussie gevoerd over het gebrek aan voldoende maatregelen in Ierland om kinderen te beschermen tegen de gevaren van AI. Hoewel het land sterke toezichthouders heeft zoals de Data Protection Commissioner en Coimisiún na Meán, is er meer handhaving nodig om de negatieve praktijken van techreuzen te bestrijden. Coimisiún na Meán, verantwoordelijk voor het reguleren van platforms zoals Meta en X (voorheen Twitter) in de EU, heeft bevoegdheden gekregen onder de EU Digital Services Act om deze platforms verantwoordelijk te houden en mensen, met name kinderen, online te beschermen.
Om deze zorgen aan te pakken, heeft Coimisiún na Meán maatregelen rond AI opgenomen in haar concept Online Veiligheidscode, gericht op het beschermen van kinderen tegen schadelijke inhoud. De code benadrukt de noodzaak voor AI-systemen om veiligheidsimpactbeoordelingen te ondergaan en voor platforms om veiligheidsmaatregelen te implementeren om de schade te minimaliseren. Bovendien kunnen door AI ondersteunde leeftijdsverificatietechnieken de inspanningen voor de bescherming van kinderen versterken.
Hoewel AI kan helpen bij contentmoderatie, is het cruciaal om mogelijke onnauwkeurigheden en vooringenomenheden in besluitvorming aan te pakken. Het uiteindelijke doel moet zijn om kinderen voorop te stellen bij het ontwerpen van AI, ervoor te zorgen dat hun veiligheid en welzijn gewaarborgd zijn. Coimisiún na Meán herhaalt haar toewijding om haar regulerende functies effectief in te zetten ten behoeve van kinderen.
Tot slot, nu AI steeds meer verweven raakt met het leven van kinderen, is het van essentieel belang om een balans te vinden tussen de voordelen ervan en mogelijke risico’s. Door robuuste veiligheidsmaatregelen te implementeren, vooroordelen aan te pakken en kinderen actief te betrekken bij het ontwerpproces, kunnen we een online omgeving creëren die hun welzijn vooropstelt en hen beschermt tegen schadelijke inhoud.
The source of the article is from the blog maltemoney.com.br