Den ökande användningen av generativ artificiell intelligens (AI) teknologi utgör en betydande utmaning för Irland när det gäller att skydda sin unga befolkning online. Barnutskottet i Oireachtas kommer att ta itu med denna brådskande fråga och erkänner begränsningarna med att enbart förlita sig på frivilliga åtgärder från teknikföretagen. Dr Johnny Ryan, direktör för Irish Council for Civil Liberties ’Enforce-enheter, betonar behovet av proaktiva åtgärder för att skydda unga människor från de potentiella skadorna av AI.
Samtidigt som han erkänner AI:s potential, påpekar Dr Ryan att teknikföretag har en dålig historia när det gäller att förbättra sig själva och visa ansvarsfullt beteende, även i situationer där liv står på spel. Att lägga ansvaret enbart på dessa företag är inte ett genomförbart tillvägagångssätt. Istället uppmanar Dr Ryan samhället att ta itu med denna fråga fullt ut genom att anta effektiva verktyg och strategier.
För att uppnå detta har Irish Council for Civil Liberties, tillsammans med över 60 andra organisationer, nyligen vädjat till Coimisiún na Meán, Irlands nya online-reglerare. De förespråkar en ”oundvikligt bindande” regel som skulle inaktivera rekommendationssystem baserade på användarprofiler som standard på videoplattformar. Dr Ryan betonar att en sådan regel får överväldigande stöd från den irländska allmänheten.
Dock varnar han också för att genomförandet av en sådan regel kommer säkerligen att möta motstånd från Big Tech-företagen. Trots potentiellt motstånd uppmanar Dr Ryan utskottet att sätta press på Coimisiún na Meán för att genomdriva stränga regler som prioriterar användarnas säkerhet.
Artificiell intelligens är redan utbredd på plattformar som TikTok, YouTube, Snapchat och Instagram och formar innehållet som unga människor konsumerar dagligen. Genom att lyfta fram forskning genomförd av olika organisationer väcker Dr Ryan oro över de negativa effekterna av rekommendationssystemen. Institute for Strategic Dialogue upptäckte att YouTubes algoritm ofta främjar misogynistiskt och hatiskt innehåll för manliga användare, medan Amnesty International fann att TikToks AI-algoritm kan glamorisera självmord för barn som tittar på innehåll relaterat till mental hälsa.
Dr Ryan hävdar att dessa rekommendationssystem manipulerar och skapar beroende hos unga människor, vilket främjar sårbad, hat, självförakt och till och med självmord. Som direktör för ICCL:s Enforce-enhet är hans vädjan till utskottet fokuserad på brådskan av att adressera denna kris på ett effektivt sätt.
Dessutom uppmärksammar CyberSafe Kids, en välgörenhetsorganisation dedikerad till online-säkerhet, den oansvariga introduktionen av AI-funktioner utan att beakta de potentiella konsekvenserna. VD:n Alex Mooney lyfter fram Snapchats ’Min AI’-funktion, som snabbt började ge olämplig information till barn trots att den från början marknadsfördes som en hjälpsam virtuell vän.
Sammanfattningsvis krävs det ett kollektivt ansvar och proaktiva åtgärder från både reglerare och teknikföretag för att skydda unga människor online. Irland har möjlighet att leda världen när det gäller att ta itu med denna kris och säkerställa de ungas online-säkerhet och välbefinnande.
The source of the article is from the blog trebujena.net