Deepfake-tehnoloogiat kasutati koolidirektori jäljendamiseks
Baltimore’i maakonna politsei pidas Marylandi Pikesville’i keskkooli endise spordidirektori kinni süüdistustes, et too lõi deepfake-video, et jäljendada kooli direktorit. Kunstlikult loodud video oli kohandatud reageerima direktorile, tehes diskrimineerivaid märkusi mustanahalistest õpilastest ja juudi kogukonnast ning põhjustades sihikule võetud indiviidi jaoks sügavaid tagajärgi.
Deepfake, mis levis sotsiaalmeedia platvormidel, viis kooli direktori Eric Eiswerti ajutise vabastamiseni ja tekitas kooli suunas mitmeid vihasiirdeid internetis ja telefonikõnede vormis.
Uurimine paljastab süüdlase
Kasutades keerukaid tehisintellekti tööriistu, avastati süüdlane Dazhon Darien, kes oli ära kasutanud kooli arvuteid vaidlusaluse deepfake’i loomiseks. Tema tehisintellekti tehnoloogiate, näiteks OpenAI ja Microsoft Bingi jututeenuste väärkasutus avastati emaili ja telefoninumbri kaudu, mis olid seotud kasutatud kontoga.
Politsei uurimine näitas, et helisalvestus ei sisaldanud loomulikke kõnemärke, nagu vahelduvad toonid ja hingeldushelid, mis viitasid selle kunstlikule olemusele.
Motiiv pahatahtliku teo taga
Vastavalt õiguskaitse ametnike avaldusele olid Darieni teod vastuseks koolidirektor Eiswerti uurimisele võimalike koolirahade ekspluateerimise suhtes. Hoolimata vahistamisest on Darien hiljem kautsjoni vastu vabastatud ja seisab silmitsi mitmete süüdistustega.
Tõusvate deepfake-skeemide intsidentide valguses rõhutab see sündmus vajadust reguleeritud lähenemisviisi järele sellele nähtusele. Prantsusmaa on hiljuti tuntust kogunud oma range seaduste poolest mittekaasavate deepfake’ide vastu, seades eeskuju potentsiaalsete õiguslike tagajärgede osas üle maailma.
Deepfake-tehnoloogia viitab tehisintellekti põhisele tehnikale, mida kasutatakse veenvate võlts heli- ja videomaterjalide loomiseks, kus inimesed tunduvad ütlevat või tegutsema viisil, mida nad tegelikult ei teinud. See juhtum, kus keskkooli spordidirektor lõi koolidirektorist rassistliku deepfake-video, pole eraldiseisev juhtum. Deepfake’ide kasutamine inimeste jäljendamiseks ja desinformatsiooni levitamiseks või kellegi laimamiseks on olnud kasvav mure globaalselt. Asjaolu, et deepfake’i saab sellisel isiklikul ja kahjustaval viisil ära kasutada, rõhutab selle tehnoloogia eetilisi ja õiguslikke väljakutseid.
Olulised küsimused ja vastused:
– Mis on deepfake’id? Deepfake’id on sünteetiline meedia, kus inimene olemasolevas pildis või videos asendatakse kellegi teisega kasutades tehisintellekti.
– Kuidas saab deepfake’e tuvastada? Mõnda deepfake’i võib märgata ebaregulaarsuste tõttu, näiteks ebatavalised näoilmed, ebaühtlane valgustus või ebatavalised kõne mustrid, kuid tehnoloogia arenedes muutuvad need üha raskemini avastatavaks.
– Milliste võimalike süüdistustega seisab süüdlane silmitsi? Konkreetsed süüdistused sõltuksid osariigi seadustest, kuid need võiksid hõlmata isikutuvastuse vargust, küberkiusamist, laimamist ning arvutiruumide väärkasutust.
Peamised probleemid või kontroversid:
– Eetilised tagajärjed: Eetilised mured puudutavad tehnoloogia väärkasutamist indiviidide maine kahjustamiseks ning võimet levitada desinformatsiooni.
– Õiguslik raamistik: Toimub võitlus seaduste loomiseks, mis suudaksid jõudsalt arenenud tehisintellektiga sammu pidada ja panna inimesed vastutama deepfake’ide loomise ja levitamise eest.
– Tuvastamine ja ennetamine: Deepfake’ide avastamise tööriistade arendamine muutub üha keerulisemaks tehnoloogia edenedes ja muutudes kättesaadavamaks.
Eelised ja puudused:
– Eelised: Kui seda vastutustundlikult kasutatakse, võib deepfake-tehnoloogial olla positiivseid rakendusi filmitööstuses, hariduses, kunstis ning isegi häälte taastamisel neile, kes on kaotanud võime rääkida.
– Puudused: Võimalus selle kuritarvitamiseks on oluline, hõlmates isiku maine kahjustamist, valeuudiste levikut ja turvalisusohud. See tõstatab ka küsimusi nõusoleku ja privaatsuse kohta.
See intsident toetab samuti laiemaid arutelusid selle üle, kuidas arendada digitaalset kirjaoskust ja edendada vastutustundlikku meedia tarbimist, et ennetada selliste deepfake-videote tekitatavat kahju enne nende lahtimõtestamist.
Kui olete huvitatud deepfake-tehnoloogia mõju jälgimisest ja sarnaste sündmuste jätkumisest, võiksite külastada usaldusväärseid allikaid, mis kajastavad viimast tehisintellekti, küberõiguse ning digitaalse eetika valdkonnas, nagu Wired või The Verge. Need väljaanded käsitlevad sageli nende tehnoloogiate tagajärgi ja muutuvat olemust.