Den snabba teknikutvecklingen har medfört såväl positiva som negativa konsekvenser för samhället. En oroande trend som har uppstått är användningen av artificiell intelligens (AI) appar av skolelever för att skapa nakna bilder. En nyligen publicerad regeringsrapport har uppmärksammat detta problem och varnar för att inte bara laddar barn ned dessa appar, utan de delar även bilder olagligt med sina vänner. Dessutom utnyttjar organiserade kriminella grupper dessa appar för att utpressa barn med datorgenererade explicita bilder.
Rapporten, författad av Storbritanniens råd för internetssäkerhet, ger råd till lärare om hur man ska hantera problemet med elever som delar explicita bilder. Den betonar vikten av att behandla AI-genererade bilder, deepfakes och ”sextortion”-fall med samma allvar som traditionella nakenbilder. Detta inkluderar att avstå från att se eller radera bilderna, omedelbart kontakta myndigheterna och undanhålla information från föräldrarna i vissa fall.
Kampanjörer och experter har välkomnat dessa riktlinjer, men det finns krav på att strängare åtgärder vidtas av reglerande organ som Ofcom, som övervakar Online Safety Act 2023. Kritiker hävdar att ett mer proaktivt och omfattande tillvägagångssätt behövs för att begränsa spridningen av AI-nakenbilder.
För närvarande är det olagligt att dela deepfake-porr eller AI-nakenbilder av vuxna utan deras samtycke. Det är också förbjudet att hota med att dela sådant innehåll. Dock är det lagligt att skapa AI-nakenbilder av vuxna. Å andra sidan kriminaliseras skapandet, ägandet och delandet av nakna eller sexuella bilder på barn uttryckligen, inklusive AI-genererade bilder, eftersom det utgör sexuellt utnyttjande av barn.
Det är värt att notera att samtyckande till att dela explicita bilder bland personer under 18 år nu kategoriseras som ett brott. Dessutom är det olagligt för minderåriga att skapa och dela AI-nakenbilder av sina klasskamrater. Syftet med dessa lagar är att skydda unga individer från utnyttjande och missbruk.
Experter har uttryckt oro över tillgängligheten av AI-nakenappar, vilket har bidragit till en ökning av virtuellt utnyttjande av kvinnor och flickor. Två huvudscenarier har identifierats av Professor Clare McGlynn från Durham University: unga pojkar som använder dessa appar för att skapa fejkade nakenbilder av sina kvinnliga klasskamrater för handel och delning, samt organiserade bedragare som producerar deepfake-nakenbilder och använder dem som utpressningsmaterial. Professor McGlynn betonar behovet av större medvetenhet kring denna fråga och uppmanar offer att rapportera sina upplevelser utan rädsla för skuld.
Med tanke på dessa utvecklingar pågår diskussioner om potentiella åtgärder för att adressera detta problem. Peter Kyle, Labours skuggminister för vetenskap, överväger enligt uppgift att förbjuda nakenhetsappar och deepfake-teknik. Susie Hargreaves, VD för Internet Watch Foundation, betonar det allvarliga hotet som AI-teknik utgör när den hamnar i kriminellas händer och uppmanar till gemensamma åtgärder för att skydda barn från utnyttjande och missbruk.
The source of the article is from the blog elperiodicodearanjuez.es