V neudobnem razkritju s srednje šole Aliso Viejo na južnem Kaliforniji je 13-letno dekle postalo tarča zlonamerne uporabe umetne inteligence (UI) s strani sošolca. Potem ko je sprejela prošnjo za sledenje sošolca na TikToku, je tedne kasneje odkrila, da je njena slika bila manipulirana na golih fotografijah, ki so jih delili med skupino dečkov. Šolski okoliš je začel preiskavo, vendar obseg nadlegovanja ali natančni ukrepi, ki bodo sprejeti, ostajajo neopredeljeni.
To incident ni osamljen v regiji. Več šol je poročalo o podobnih primerih uporabe UI za ustvarjanje in distribucijo ponarejenih eksplicitnih slik učencev. S hitrim napredkom tehnologije UI so ta orodja postala bolj dostopna, kar je omogočilo tudi učencem ustvarjanje motečih vsebin, kot so “deepfakes”.
Strokovnjaki opozarjajo na zamudo pri predpisih in ozaveščenosti glede potenciala digitalnega spolnega nadlegovanja. John Pizzuro, nekdanji policijski častnik in vodja naloge za spletne zločine zoper otroke, poudarja potrebo po posodobitvi politik, da bi korak držali s temnimi uporabami tehnologije. Podobno Michael Karanicolas z Univerze UCLA in psihoterapevtka Kristen Zaleski priznavata tehnične in psihološke izzive, poudarjata nujnost izobraževanja in pravne jasnosti med organi pregona in oblikovalci politik.
Trenutni pravni okvir se bori s kategorizacijo zakonitosti takšnih vsebin, ki jih ustvarja UI, kar pomeni zaskrbljujoč prazen prostor pri zaščiti žrtev te nove oblike nadlegovanja.
Ta primer poudarja globoke posledice zlorabe tehnologije na šolskih kampusih in zahteva hitre in učinkovite odzive za zaščito učencev pred izkoriščanjem in nadlegovanjem s pomočjo UI.
Hiter razvoj UI v različnih industrijah
The source of the article is from the blog publicsectortravel.org.uk