U neugodnom otkriću iz srednje škole Aliso Viejo na jugu Kalifornije, 13-godišnja djevojčica postala je meta zlonamjerne uporabe umjetne inteligencije (AI) od strane kolege učenika. Nakon što je prihvatila zahtjev za praćenje razrednog kolege na TikToku, tjednima kasnije je otkrila da je njezina slika manipulirana na golim fotografijama koje su dijeljene među grupom dječaka. Školski okrug je pokrenuo istragu, ali opseg uznemiravanja ili točne mjere koje će biti poduzete nisu specificirane.
Ovaj incident nije izoliran unutar regije. Nekoliko škola prijavilo je slične slučajeve u kojima je AI korišten za generiranje i distribuciju lažnih eksplicitnih slika učenika. Sa brzim napretkom u tehnologiji AI, ovi alati postali su pristupačniji, olakšavajući čak i učenicima stvaranje uznemirujućeg sadržaja poput “deepfake” videozapisa.
Stručnjaci dižu zabrinutost zbog zaostajanja u regulacijama i svijest o potencijalu digitalnog seksualnog uznemiravanja. John Pizzuro, bivši policijski časnik i vođa radne skupine za zločine na internetu protiv djece, naglašava potrebu za ažuriranim politikama kako bi se održao korak s tamnim stranama tehnologije. Slično, Michael Karanicolas s UCLA i psihoanalitičarka Kristen Zaleski prepoznaju tehničke i psihološke izazove, naglašavajući hitnost obrazovanja i pravne jasnoće među pravosudnim tijelima i zakonodavcima.
Trenutni pravni okvir ima poteškoća s kategorizacijom zakonitosti takvog AI-generiranog sadržaja, ostavljajući zastrašujući jaz u zaštiti žrtava ovog novog oblika uznemiravanja.
Ovaj slučaj ističe duboke implikacije zloupotrebe tehnologije na školskim kampusima i potražnju za brzim i učinkovitim reakcijama radi zaštite učenika od iskorištavanja i uznemiravanja omogućenih AI-em.
Brzi razvoj AI u različitim industrijama
The source of the article is from the blog cheap-sound.com