Den hastige udvikling af teknologi har medført både positive og negative indvirkninger på samfundet. En bekymrende tendens, der er opstået, er anvendelsen af kunstig intelligens (AI) apps af skolebørn til at skabe nøgenbilleder. En nylig regeringsrapport har fremhævet denne problemstilling og advarer om, at børn ikke kun downloader disse apps, men også ulovligt deler billederne med deres venner. Derudover udnytter organiserede kriminelle grupper disse apps til at afpresse børn med computer-genererede eksplicitte billeder.
Rapporten, udarbejdet af UK Council for Internet Safety, giver vejledning til lærere om, hvordan man kan håndtere problemet med elever, der deler eksplicitte billeder. Den understreger vigtigheden af at behandle AI-genererede billeder, deepfakes og “sextortion”-sager med samme alvor som traditionelle nøgenbilleder. Dette inkluderer at undlade at se eller slette billederne, omgående kontakte myndighederne og tilbageholde information fra forældre i visse tilfælde.
Kampagnefolk og eksperter har hilset denne vejledning velkommen, men der er krav om, at der træffes skrappere foranstaltninger af regulerende organer såsom Ofcom, der overvåger Online Safety Act 2023. Kritikere argumenterer for, at der er behov for en mere proaktiv og omfattende tilgang for at begrænse spredningen af AI-nøgenbilleder.
Det er i øjeblikket ulovligt at dele deepfake-porno eller AI-nøgenbilleder af voksne uden deres samtykke. Det er også forbudt at true med at dele sådant indhold. Dog er det juridisk tilladt at skabe AI-nøgenbilleder af voksne. På den anden side kriminaliserer loven eksplicit oprettelse, ejerskab og deling af nøgen- eller seksuelle billeder af børn, herunder AI-genererede fotos, da det udgør seksuelt misbrug af børn.
Det er værd at bemærke, at det nu er kategoriseret som en kriminel handling at dele eksplicitte billeder mellem personer under 18 år. Derudover er det ulovligt for mindreårige at oprette og dele AI-nøgenbilleder af deres klassekammerater. Formålet med disse love er at beskytte unge individer mod udnyttelse og misbrug.
Eksperter har rejst bekymringer om tilgængeligheden af AI-apps til fremstilling af nøgenbilleder, hvilket har medvirket til en stigning i virtuel udnyttelse af kvinder og piger. To hovedscenarier er identificeret af Professor Clare McGlynn fra Durham University: unge drenge, der bruger disse apps til at skabe falske nøgenbilleder af deres kvindelige klassekammerater til handel og deling, og organiserede svindlere, der producerer deepfake-nøgenbilleder og bruger dem som afpresningsmateriale. Professor McGlynn understreger behovet for større opmærksomhed omkring denne problemstilling og opfordrer ofre til at rapportere deres oplevelser uden frygt for skyld.
Mens regeringsrapporten anerkender den betydelige stigning i “sextortion”-sager drevet af brugen af AI-apps, forsikrer den også offentligheden om sin forpligtelse til online sikkerhed. Ifølge en talsperson for regeringen tilbyder Online Safety Act robuste beskyttelser for børn og har kriminaliseret deling af deepfake intime billeder uden samtykke. Sociale medieplatforme har også fået nye ansvarsområder for at forhindre spredning af ulovligt indhold, med potentielle bøder på milliarder af pund.
I lyset af disse udviklinger er der diskussioner om potentielle foranstaltninger til at tackle denne problemstilling. Peter Kyle, Labours talsmand for videnskab, overvejer angiveligt et forbud mod nøgenhedsapps og deepfake-teknologi. Susie Hargreaves, administrerende direktør for Internet Watch Foundation, fremhæver den alvorlige trussel, som AI-teknologi udgør i hænderne på kriminelle, og opfordrer til fælles handling for at beskytte børn mod udnyttelse og misbrug.
Ofte Stillede Spørgsmål (FAQ)
The source of the article is from the blog be3.sk