Mērihlendas sporta direktoram uzsākta apsūdzība par mākslīgā intelekta manipulēšanu, lai imitētu vidusskolas direktora balsi, radot rasisma un antisemītisku audio hīnojumu. Šis satraucošais gadījums atklāj AI attīstības tumšo pusi un ir izraisījis aicinājumus veikt likumdošanas reformas.
Mākslīgi radītais ieraksts, ko izveidoja Dazhon Darien, nepareizi attēloja Pikesville High School direktoru, izsakot vārīgas piezīmes par melnajiem un ebrejiem. Izgudrots audio ātri izplatījās sociālajos tīklos, radot nopietnas sekas direktoram, ieskaitot plūdus ar naidu pilniem ziņojumiem un nepieciešamību pēc policijas aizsardzības viņa mājās.
Dariena izšķērums, kurš tagad saskaras ar vairākām apsūdzībām, radās no strīda par viņa darba sniegumu un iespējamu līguma pagarināšanu. Pret viņu tika izteiktas apsūdzības saistībā ar finansiālām malversācijām, kas saistītas ar neesošo apmācību pakalpojumu.
Šī situācija ir viena no pirmajām, kas reģistrēta Amerikas Savienotajās Valstīs, kurā iesaistīta AI pārstāšanās, un ir parādījusi plaisu esošajā likumdošanā, ar nepietiekamiem sodiem par šādām pārkāpumiem. Baltimore County valsts advokāts Skots Šellenbergers norādīja, ka ir nepieciešams novērtēt AI plašās sekas un pielāgot likumus, lai risinātu tās ļaunprātīgu izmantošanu.
Eksperti, kuri analizēja manipulēto ierakstu, apstiprināja AI izmantošanu ar pēcdarbināšanas pieskārieniem, kas bija domāti, lai uzlabotu tā autentiskumu. AI ātrā attīstība un tā viegla pieejamība rada būtiskas bažas, jo atklāšanas tehnoloģijas cīnās noturēties soli vien līdzi. Bifalas Universitātes profesors Sīvei Lju uzsver, ka cīņa pret AI ļaunprātīgu izmantošanu ir nepārtraukta un resursi nepietiek, prasot lielāku informētību un tehnoloģiskos resursus, lai cīnītos pret krāpniecību.