Incident, ki vključuje zlorabo tehnologije AI za glasovno ponarejanje, je prišel na dan na srednji šoli Pikesville, kjer je posameznik uporabil AI za ponarejanje glasu ravnatelja šole, kar je povzročilo obsežno zaskrbljenost. Ponarejevalec, imenovan Darien, je bil aretiran na mednarodnem letališču Baltimore-Washington Thurgood Marshall med poskusom vkrcanja na let v Houston. Prijetje je bilo sprva izvedeno, ker je Darien nosil orožje, vendar so oblasti odkrile še aktivni nalog za njegovo aretacijo.
Zlonamerni avdio posnetek, ki je žalil afriško-ameriške študente in lokalno judovsko skupnost, se je hitro širil po spletu, kar je privedlo do začasne suspenzije pravega ravnatelja, g. Eiswerta, ter sprožilo val ogorčenih komentarjev na družbenih omrežjih in številne telefonske klice na šolo. Državno tožilstvo za Baltimore je Dariena obtožilo motenja šolskih dejavnosti, tatvine ter maščevanja proti priči. Njegova dejanja naj bi bila posledica maščevanja potem, ko se je g. Eiswert lotil sumljivih plačil, ki jih je Darien izvedel nekemu učitelju športne vzgoje, ki je bil hkrati tudi njegov sostanovalec.
Darien je bil začasno izpuščen po plačilu 5.000 dolarjev varščine. Sodelujoč v preiskavi, profesorja Catalin Grigoras z Univerze v Koloradu in Hany Farid z Univerze v Kaliforniji sta ugotovila, da avdio posnetek, ki kroži po spletu, nosi znake manipulacije z AI, sestavljen iz več segmentov.
Dogodek je še en opomin o nevarnostih lažnih vsebin, ki jih ustvarja AI. Kako tehnologija napreduje, lažni zvočni in video posnetki postajajo vedno bolj sofisticirani in težje razločni od resničnosti. To predstavlja velik izziv pri boju proti dezinformacijam in goljufivim dejavnostim. Nedavni primeri vključujejo izmišljene vsebine predsednika Joeja Bidna ter manipulirane video posnetke za umazovanje likov v javnosti, ki izpostavljajo enostavnost, s katero se glasovi danes lahko umetno reproducirajo.
Rastoča grožnja tehnologije Deepfake in njenih posledic
Tehnologija Deepfake, ki obsega tako zvočno kot video manipulacijo, uporablja umetno inteligenco in strojno učenje za ustvarjanje ponarejenih verzij resničnih ljudi, ki izjavljajo ali izvajajo stvari, ki jih nikoli niso dejansko storili. Postaja vedno bolj dostopna in sofisticirana, kar postavlja pomembna vprašanja in pomisleke o zasebnosti, varnosti in integriteti informacij.
Eden od ključnih izzivov, povezanih z uporabo AI pri zlonamernem glasovnem ponarejanju, kot v primeru srednje šole Pikesville, je zmožnost odkrivanja in preprečevanja takšnih dejavnosti. Postaja težko za posameznike, da razlikujejo, ali so v interakciji z avtentičnimi ali ponarejenimi vsebinami. Ko AI nadaljuje z razvojem, orodja za ustvarjanje teh ponarejanj postajajo bolj dostopna in lažje uporabna, kar zmanjšuje prve ovire tehnične ekspertize, potrebne za zlonamerno uporabo.
Dogodek na srednji šoli Pikesville izpostavlja več kontroverz, vključno z:
1. Etičnimi implikacijami in potencialno škodo, ki izhajajo iz uporabe tehnologije Deepfake za zlonamerne cilje posameznikov in skupnosti.
2. Kako uravnotežiti inovacije v AI in njene pozitivne aplikacije z nevarnostjo zlorabe.
3. Odgovornost spletnih platform pri nadzoru in omejevanju širjenja zlonamerno ustvarjenih vsebin z AI.
Nadalje, uporaba tehnologije Deepfake ima prednosti, ki vključujejo:
– Napredke v zabavi, kjer se lahko uporablja za ustvarjanje bolj realističnih posebnih učinkov.
– Potencialno uporabo v izobraževanju, kot je simuliranje zgodovinskih govorov ali dogodkov.
Vendar pa te koristi prihajajo z občutnimi slabostmi:
– Podiranje zaupanja v zvočne in vizualne vsebine.
– Uporaba AI za vpletenost v goljufive dejavnosti, klevetanje ter širjenje sovražnega govora ali dezinformacij.
– Pravne in etične izzive, zlasti glede soglasja in pravic posameznika do njegove podobnosti in glasu.
Ob upoštevanju teh vprašanj, koristne povezave za več informacij o umetni inteligenci in tehnologiji Deepfake vključujejo:
– AI.org: Za splošne informacije o razvoju umetne inteligence in raziskavah.
– Electronic Frontier Foundation: Za vprašanja, povezana z digitalno zasebnostjo, vključno z Deepfake.
Kot odziv na ta in podobne dogodke poteka razprava o potrebi po bolj robustnih zakonih in tehnoloških orodjih za odkrivanje in omilitev vpliva lažnih vsebin, ki jih ustvarja AI. Kazenski organi in tehnološka podjetja vedno bolj sodelujejo pri izboljšanju metod odkrivanja, in potekajo pobude za izobraževanje javnosti o tem, kako preveriti avtentičnost vsebin, s katerimi se srečujejo na spletu.