L’intreccio tra intelligenza artificiale e attività criminale è stato evidenziato attraverso uno scandalo che coinvolge l’uso di una falsa registrazione vocale generata da intelligenza artificiale. Dazhon Leslie Darien, l’ex direttore atletico della Pikesville High School, ha orchestrato un attacco al preside della scuola utilizzando questa tecnologia.
Dopo essere stato informato che il suo contratto non sarebbe stato rinnovato a causa di problemi di rendimento, Darien ha cercato vendetta contro il suo superiore, Eric Eiswert. Le accuse mosse contro Darien includevano il licenziamento non autorizzato di un allenatore e il furto di fondi scolastici. Utilizzando un servizio di intelligenza artificiale non specificato, Darien ha fabbricato una registrazione vocale di una conversazione mai avvenuta, insinuando che Eiswert avesse fatto commenti razzisti sulle capacità intellettuali degli studenti neri, sugli ebrei e su commenti denigratori riguardanti due colleghi.
La diffusione dell’inganno e le sue conseguenze hanno avuto inizio quando Darien ha fatto circolare il falso clip da un account Gmail ai membri dello staff della scuola e agli studenti. L’audio manipolato ha scatenato una grande indignazione nella comunità scolastica, portando a messaggi di odio sui social media, minacce di morte contro Eiswert e alla sua temporanea rimozione dal suo incarico. Eiswert ha respinto queste accuse rivelando agli investigatori che la discussione registrata non era mai avvenuta, citando un conflitto in corso e le capacità tecniche di Darien come motivi di sospetto.
Infine, le forze dell’ordine hanno convalidato la natura contraffatta della registrazione con l’aiuto di esperti e hanno rintracciato la diffusione dell’account Gmail fino alla casa della nonna di Darien. Questa indagine ha portato al suo arresto in un aeroporto a seguito di un incidente di sicurezza che coinvolgeva armi imballate in modo improprio. Le accuse pendenti contro Darien includono la perturbazione dell’ordine scolastico, l’harassment, la ritorsione contro i testimoni, il furto e ulteriori accuse di harassment.
La tecnologia in rapida espansione suscita preoccupazione nelle forze dell’ordine; non sono solo le grandi aziende come Meta, Microsoft e OpenAI ad avere capacità di discorso AI, ma anche fornitori più piccoli possono produrre falsi convincenti per implicare individui. Con così tanta attività sul mercato dei modelli di discorso AI, potremmo assistere a un aumento di crimini simili in futuro.