Egy aggasztó esetbe bukkantak a Pikesville High School-ban, amely az AI hangtechnológia visszaélését érintette. Egy személy a sulit igazgatójának hangját hamisította meg AI segítségével, amely komoly aggodalmat keltett. Az álnokosító, akit Dariennek azonosítottak, az amerikai Baltimore-Washington Thurgood Marshall nemzetközi reptéren letartóztatták, amikor Houstonba próbált repülőre szállni. Az eredeti letartóztatás oka az volt, hogy Dariennek fegyvert találtak nála, azonban kiderült, hogy ő ellen aktív körözési parancs volt érvényben.
A gonosz hangfelvétel, ami rágalmazta az afroamerikai diákokat és a helyi zsidó közösséget, gyorsan terjedt az interneten, ami miatt az igazi igazgatót, Mr. Eiswertet ideiglenesen felfüggesztették, és rengeteg dühös közösségi média hozzászólást és telefonhívást eredményezve. Baltimor állami ügyészsége Dariennet az iskolai működés zavarásával, lopással és tanú elleni megtorlással vádolta meg. Darien cselekedeteinek állítólag bosszú volt a láttán, miután Eiswert gyanús befizetéseket vizsgált ki, amelyeket Darien egy testnevelés tanárnak tett, aki egyben lakótárja is volt.
5,000 dolláros óvadék mellett Darien ideiglenes szabadlábon szabadult. A Colorado-i Egyetem professzora, Catalin Grigoras, és a Kaliforniai Egyetem professzora, Hany Farid segítettek a nyomozásban, és arra a következtetésre jutottak, hogy az online keringő hangfelvétel AI manipulációjának jeleit mutatja, amelyet több részből állítottak össze.
Az eset egy újabb figyelmeztetés a veszélyes AI által generált hamis tartalmakról. Ahogy a technológia fejlődik, a hamis hang- és videók egyre kifinomultabbá válnak és nehezebben megkülönböztethetők a valóságtól. Ez komoly kihívást jelent a dezinformáció és a csalások elleni harc során. A legújabb példák közé tartozik Joe Biden elnök hamisított tartalma és az emberek nevének besározására használt manipulált videók, rávilágítva arra, milyen könnyedséggel lehet ma mesterségesen másolni hangokat.