Hitro napredek tehnologije je prinesel tako pozitivne kot negativne vplive na družbo. Eno izmed zaskrbljujočih trendov, ki se je pojavil, je uporaba aplikacij z umetno inteligenco (UI) s strani šolskih otrok za ustvarjanje golih slik. Nedavno poročilo vlade je opozorilo na to težavo in opozorilo, da otroci ne samo prenašajo te aplikacije, temveč tudi nezakonito delijo slike s prijatelji. Poleg tega organizirane kriminalne združbe izkoriščajo te aplikacije za izsiljevanje otrok s pomočjo računalniško ustvarjenih eksplicitnih slik.
Porocilo, ki ga je pripravil Svet za varnost interneta Združenega kraljestva, nudi usmeritve učiteljem, kako se spopasti s problemom deljenja eksplicitnih slik. Poudarja potrebo po obravnavanju UI-generiranih slik, deepfakeov in “sextortion” primerov z isto resnostjo kot tradicionalne gole slike. To vključuje vzdrževanje odnosa ne ogledovanje ali brisanje slik, nemudoma kontaktiranje oblasti in zadrževanje informacij pred starši v določenih primerih.
Zagovorniki in strokovnjaki so pozdravili te smernice, vendar obstajajo pozivi po strožjih ukrepih, ki bi jih morala sprejeti regulatorna telesa, kot je Ofcom, ki nadzoruje Zakon o spletni varnosti 2023. Kritiki trdijo, da je potreben bolj proaktiven in celovit pristop za zatiranje širjenja UI golih slik.
Trenutno je nezakonito deliti deepfake pornografijo ali UI gole slike odraslih brez njihovega soglasja. Prav tako je prepovedano groziti s širjenjem takšnih vsebin. Vendar je ustvarjanje UI golih slik odraslih trenutno zakonito. Po drugi strani pa zakon izrecno kriminalizira ustvarjanje, lastništvo in deljenje golih ali spolnih slik otrok, vključno s UI-ustvarjenimi fotografijami, saj šteje za spolno zlorabo otrok.
Potrebno je omeniti, da se privoljno deljenje eksplicitnih slik med osebami, mlajšimi od 18 let, zdaj uvršča kot kaznivo dejanje. Poleg tega je mladoletnikom nezakonito ustvarjati in deliti UI gole slike svojih sošolcev. Namen teh zakonov je zaščititi mlade posameznike pred izkoriščanjem in zlorabo.
Strokovnjaki so izrazili skrbi glede dostopnosti aplikacij za ustvarjanje UI gole, kar je prispevalo k porastu virtualnega izkoriščanja žensk in deklet. Profesorica Clare McGlynn z Univerze v Durhmu je izpostavila dve glavni scenariji: mladi fantje, ki te aplikacije uporabljajo za ustvarjanje lažnih golih slik svojih sošolcev za trgovanje in deljenje ter organizirani goljufi, ki proizvajajo deepfake gole in jih uporabljajo za izsiljevanje. Profesorica McGlynn poudarja potrebo po večji ozaveščenosti o tej težavi in spodbuja žrtve, naj poročajo o svojih izkušnjah brez strahu pred krivdo.
Čeprav pridana vlada priznava pomemben porast “sextortion” primerov, ki jih sproža uporaba aplikacij UI, hkrati zagotavlja javnosti svojo zavezanost spletni varnosti. Po besedah predstavnika vlade Zakon o spletni varnosti ponuja robustno zaščito otrokom in je kriminaliziral deljenje deepfake intimnih slik brez dovoljenja. Spletna družbena omrežja so bile tudi obvezane prevzeti nove odgovornosti za preprečevanje širjenja nezakonitih vsebin, s potencialnimi kaznimi vrednimi milijarde funtov.
Ob upoštevanju teh razvojev potekajo razprave o potencialnih ukrepih za reševanje te težave. Peter Kyle, senčni sekretar Laburistov za znanost, naj bi razmišljal o prepovedi aplikacij za goljufanje in tehnologije deepfake. Susie Hargreaves, izvršna direktorica Internet Watch Foundation, poudarja resno grožnjo, ki jo predstavlja UI tehnologija v rokah kriminalcev, in poziva k skupnemu delovanju za zaščito otrok pred izkoriščanjem in zlorabo.
The source of the article is from the blog exofeed.nl