Fiziskās audzināšanas skolotājs no Baltimore Pikesville High School, Dazhon Darien, 31 gadu vecumā, tika izlikts apcietinājumā pēc aizdomām par mākslīgā intelekta izmantošanu, lai imitētu direktora Erika Eiswerta balss. Viņš nosūtīja skandalozus komentārus par kolēģiem un skolēniem šādā tērpā, izraisot satriekumu izglītības kopienā.
Incidents atklājās janvārī, kad tiekot uzņemts audio ieraksts, izliekoties par direktoru Eiswertu, kas izplatījās tiešsaistē un izraisīja sabiedrisko nosodījumu ar savādām izpausmēm. Fiktīvais audio ietvēra informāciju par grūtībām palīdzēt labākiem krāsainiem skolēniem sasniegt izglītības standartus, kā arī saturēja pazemojošus komentārus par žīdu kopienu. Ierakstā tika izteiktas nepatīkamas atsauces arī uz konkrētiem darbiniekiem, apšaubot viņu darba tiesības.
Pēc detalizētas Baltimoras apgabala policijas izmeklēšanas, kas sākās 17. janvārī, tika secināts, ka ieraksta viltotais raksturs ir apgalvots. Baltimoras apgabala policijas priekšnieks, Robert McCullough, skaidri paskaidroja preses konferencē, ka pierādījumi liecina uz neautentisku audio klipu, kas ir izveidots, izmantojot sofistikētu AI tehnoloģiju.
Baltimoras apgabala prokurors, Scott Shellenberger, norādīja, ka incidents varētu būt viens no pirmajiem šāda veida valstī, uzsverot nepieciešamību, lai valsts likumdevēji grozītu likumus, lai risinātu jaunās tehnoloģiskās progreses un to ļaunprātīgas izmantošanas problēmu. Šādas likumdošanas atjaunināšanas spiediens ir būtisks, lai ierobežotu potenciālo tehnoloģiju radītās dezinformācijas izplatīšanos.
Svarīgi fakti:
1. Mākslīgā intelekta (AI) tehnoloģijas ir attīstījušās līdz tādam līmenim, ka ir iespējams radīt ļoti reālistiskas balss imitācijas, ko sauc par “deepfakes”.
2. AI ļaunprātīga izmantošana, lai radītu viltotus audio vai video ierakstus, var radīt nopietnas sekas, īpaši, ja to izmanto, lai imitētu sabiedriskas personas vai izplatītu nepatiesu informāciju.
3. Tehnoloģiskie līdzekļi, lai identificētu un cīnītos pret “deepfakes”, turpina attīstīties, taču cīņa starp “deepfake” radītājiem un atklājējiem turpinās.
Svarīgas jautājums:
– Kādas likumdošanas sankcijas var saskarties persona, kas radījusi un izplatījusi AI ģenerētas imitācijas?
– Kā izglītības iestādes var sagatavoties un reaģēt uz tehnoloģijas ļaunprātīgu izmantošanu, kas ietekmē viņu kopienas?
– Kādas pasākumus var pieņemt, lai novērstu dezinformācijas izplatīšanos caur “deepfake” tehnoloģiju?
Atbildes:
– Sankcijas varētu ietvert identitātes zādzību, tiešsaistes vajāšanu, sliktas slavas radīšanu vai citas attiecīgās tiešsaistes noziedzības noziedzības pārkāpumus, atkarībā no konteksta un jurisdikcijas likumiem.
– Izglītības iestādes var ieviest stingrus norādījumus par tīmekļa uzvedību, sniegt apmācību un izglītojumu par tehnoloģiju ētisko izmantošanu un uzturēt atklātu dialogu ar likumsargiem par labākajām praksēm, lai risinātu šādas problēmas.
– Novēršanas pasākumi ietver attīstīt sarežģītas detektēšanas rīkus, paaugstināt sabiedrības izpratni par “deepfakes” būtību un klātbūtni, kā arī iespējami regulēt AI balss un video ģenerēšanas programmatūras izplatīšanu.
Svarīgie izaicinājumi:
– “Deepfakes” identificēšana ar augstu drošību līmeni joprojām ir tehnikas ziņā izaicinoša.
– Likumdošana pret “deepfakes” radīšanu, neliedzot tiesības, piemēram, uz brīvu runu un māksliniecisku izpausmi, var būt sarežģīta.
– Sabiedrības izglītošana kritiski izvērtēt mediju saturu un verificēt informāciju pirms to izplatīšanas.
Kontroverses:
– Līdzsvars starp tehnoloģiju inovāciju un potenciālo ļaunprātīgas izmantošanas iespējamību var radīt diskusijas par regulējumu un ētikas pamatnostādnēm.
– Problemas ar digitālo identitāti un privātuma tiesībām pastiprina potenciāla AI izpausme impersonēt indivīdus bez viņu piekrišanas.
Priekšrocības un trūkumi:
– AI balss ģenerēšanas priekšrocības ietver izmantošanu izklaidei, pieejamības iespējas tiem, kam ir runas traucējumi, un ērtumu personīgu digitālo asistentu formā.
– Trūkumi ietver potenciālo ļaunprātīgu izmantošanu, piemēram, viltotu atbalsts radīšanu, autoritātes figūru impersonēšanu, lai veiktu krāpšanu vai bojātu indivīdu reputāciju.
Saistītie saiti, kas varētu būt noderīgi šajā kontekstā, var būt sniegti organizācijām, kas koncentrējas uz AI, tiešsaistes likumu vai izglītību. Tā kā nav konkrēta URL, kurā iekļauts hipersaite, es atturēšos no tādas pievienošanas.
Lūdzu, ņemiet vērā, ka tehnoloģijas, tiesību akti un sociālās sekas šajos situācijās pastāvīgi attīstās, un ir būtiski ņemt vērā visaktualizētāko informāciju un tiesisko kontekstu, kad tiek apspriests šāds incidents.