In een ongemakkelijke onthulling van Aliso Viejo Middle School in Zuid-Californië werd een 13-jarig meisje het doelwit van kwaadaardig gebruik van kunstmatige intelligentie (AI) door een medestudent. Nadat ze een volgverzoek van een klasgenoot op TikTok had geaccepteerd, ontdekte ze weken later dat haar afbeelding was gemanipuleerd op naaktfoto’s die werden gedeeld onder een groep jongens. Het schooldistrict is een onderzoek gestart, maar de omvang van het pestgedrag of de exacte maatregelen die zullen worden genomen, blijven ongespecificeerd.
Dit incident is niet geïsoleerd binnen de regio. Verschillende scholen hebben vergelijkbare gevallen gemeld waarbij AI werd gebruikt om valse expliciete afbeeldingen van studenten te genereren en te verspreiden. Met de snelle vooruitgang in AI-technologie zijn deze tools toegankelijker geworden, waardoor het zelfs voor studenten eenvoudig is verontrustend materiaal zoals “deepfakes” te creëren.
Experts maken zich zorgen over de achterstand in regelgeving en bewustwording met betrekking tot de mogelijkheden voor digitaal seksueel pesten. John Pizzuro, een voormalig politieagent en leider van het internetmisdaad- en kinderbeschermingsteam, benadrukt de noodzaak van bijgewerkte beleidsmaatregelen om gelijke tred te houden met de duistere toepassingen van technologie. Op dezelfde manier erkennen Michael Karanicolas van UCLA en psychotherapeut Kristen Zaleski de technologische en psychologische uitdagingen, waarbij ze het belang benadrukken van educatie en juridische duidelijkheid bij wetshandhavers en beleidsmakers.
Het huidige juridische kader worstelt om de legaliteit van dergelijke door AI gegenereerde inhoud te categoriseren, met een ontmoedigende kloof in bescherming voor slachtoffers van deze nieuwe vorm van pesten.
Dit geval onderstreept de diepgaande implicaties van technologisch misbruik op schoolcampussen en de vraag naar snelle en effectieve reacties om studenten te beschermen tegen door AI-enabled exploitatie en pestgedrag.
Rapid Development of AI in Diverse Industrieën
The source of the article is from the blog revistatenerife.com