Veeltechnologieën voor generatieve kunstmatige intelligentie (AI) vormen een grote uitdaging voor Ierland bij het beschermen van zijn jonge bevolking online. De kindercommissie van het Oireachtas gaat dit dringende probleem aanpakken en erkent dat het niet voldoende is om volledig te vertrouwen op vrijwillige actie van techbedrijven. Dr. Johnny Ryan, directeur van de Enforce Unit van de Irish Council for Civil Liberties, benadrukt de noodzaak van proactieve maatregelen om jongeren te beschermen tegen de mogelijke schade van AI.
Hoewel hij het potentieel van AI erkent, stelt Dr. Ryan dat techbedrijven een slechte staat van dienst hebben als het gaat om zelfverbetering en verantwoord gedrag, zelfs in situaties waar levens op het spel staan. Het is geen haalbare aanpak om de verantwoordelijkheid volledig bij deze bedrijven te leggen. In plaats daarvan dringt Dr. Ryan er bij de samenleving op aan om dit probleem frontaal aan te pakken door effectieve tools en strategieën te adopteren.
Daartoe heeft de Irish Council for Civil Liberties, samen met meer dan 60 andere organisaties, onlangs een beroep gedaan op Coimisiún na Meán, de nieuwe online toezichthouder van Ierland. Ze pleiten voor een “onontkoombare bindende” regel die recommendatiesystemen op basis van gebruikersprofielen standaard uitschakelt op videoplatforms. Dr. Ryan benadrukt dat zo’n regel brede steun geniet van het Ierse publiek.
Hij waarschuwt echter ook dat het implementeren van een dergelijke regel ongetwijfeld verzet zal ontmoeten van grote technologiebedrijven. Ondanks mogelijke weerstand dringt Dr. Ryan er bij de commissie op aan om druk uit te oefenen op Coimisiún na Meán om strenge regelgeving door te voeren die prioriteit geeft aan de veiligheid van gebruikers.
Kunstmatige intelligentie is al alomtegenwoordig in platforms zoals TikTok, YouTube, Snapchat en Instagram, en beïnvloedt de inhoud die jongeren dagelijks consumeren. Dr. Ryan maakt zich zorgen over de negatieve impact van recommendatiesystemen en wijst op onderzoek dat is uitgevoerd door verschillende organisaties. Het Institute for Strategic Dialogue ontdekte bijvoorbeeld dat het algoritme van YouTube vaak misogynistische en haatdragende inhoud promoot onder mannelijke gebruikers, terwijl Amnesty International constateerde dat het AI-algoritme van TikTok zelfmoord kan verheerlijken voor kinderen die mentale gezondheidsinhoud bekijken.
Dr. Ryan betoogt dat deze recommendatiesystemen jongeren manipuleren en verslaafd maken, wat leidt tot pijn, haat, zelfverachting en zelfs zelfmoord. Als directeur van de Enforce Unit van de ICCL ligt zijn pleidooi aan de commissie centraal bij de urgentie om deze crisis effectief aan te pakken.
Daarnaast vestigt CyberSafe Kids, een liefdadigheidsorganisatie die zich inzet voor online veiligheid, de aandacht op de onverantwoorde introductie van AI-functies zonder rekening te houden met de mogelijke gevolgen. De CEO, Alex Mooney, wijst op de functie ‘My AI’ van Snapchat, die snel ongepaste informatie aan kinderen begon te verstrekken, ondanks dat het oorspronkelijk werd gepromoot als een behulpzame virtuele vriend.
Concluderend vereist het waarborgen van de veiligheid van jongeren online een gezamenlijke verantwoordelijkheid en proactieve maatregelen van zowel toezichthouders als techbedrijven. Ierland heeft de mogelijkheid om wereldwijd leidend te zijn bij het aanpakken van deze crisis en het waarborgen van de online veiligheid en het welzijn van zijn jeugd.
The source of the article is from the blog be3.sk