Olha Lojeková näoga kontod, praegune tudeng Pennsylvania Ülikoolis, on ilmunud mitmesugustel Hiina platvormidel, tegutsedes erinevate võltsidentiteetide all, nagu Sofia, Nataša, April ja Stacy. Neil kõigil on kaks silmatorkavat ühist joont: hiina keele valdamine, mida proua Lojeková pole kunagi õppinud, ning päritolu Venemaalt koos kalduvusega keskenduda Hiina-Vene suhetele või propageerida Vene kaupu.
Olha Lojeková väljendas oma ebamugavust ja solvangut nendes videotes kasutatud väljendite pärast, mis süvenesid tema perekonna kodumaal Ukrainas valitseva olukorraga. Irooniliselt tekkisid probleemid pärast seda, kui ta käivitas oma YouTube’i kanali, mis tõi kaasa küsimusi tema mandariinikeelsete videote kohta Hiina sotsiaalvõrgustikes, oskusega, mida tal polnud.
Põhjaliku uurimistöö käigus avastas Olha ühe enda dubleerijatest Xiaohongshu’is, mis on sarnane Instagramile, samas kui teine oli Bilibilis, Aasia versioonis YouTube’ist. Ta tuvastas 35 kontot, kus tema sarnasus esines. Tehnoloogia looja HeyGenile teatati probleemist ja avastati ligikaudu 5000 Lojeková näoga tehisintellekti sünteesitud videot, blokeerides viivitamatult tema sarnase kuju tulevaste videote genereerimiseks ning uuendades nende turvaprotkolle selle väärkasutamise kaitseks.
Angela Zhang Hongkongi Ülikoolist väidab, et Olha olukord on Hiinas üsna tavaline, riigis, mis on halli majanduse tõttu tuntud võltsimise, isikuandmete väärkasutamise ja süvavõltsimise tootmise poolest. Hoolimata Hiina ambitsioonikatest reguleerimiskatsetest isikliku õiguse kaitseks digitaalse võltssisu vastu, on endiselt märkimisväärne väljakutse, mida rõhutab 515 eelmisel aastal AI-põhise näovahetusega seotud kinnipidamist.
Spekulatsioonid selliste valeidentiteediga isikuid nagu Lojeková esitavate videote rohkuse ümber viitavad võimalikule kooskõlale Hiina riikliku narratiiviga, eriti seoses Vene-Hiina sidemete, suhte osas, mille vastavad riikide liidrid on kirjeldanud piirituna. Hiina riiklik meedia kajastab Vene argumente Ukraina konflikti kohta, teemat, mida Hiina valitsus tugevalt tsenseerib.
Põhiküsimused ja vastused:
Mis on tehisintellekti sünteesitud video?
Tehisintellekti sünteesitud video viitab meediakontendile, mida genereeritakse või manipuleeritakse tehisintellekti tehnoloogiate, nagu süvamõistmise abil. Need videod võivad hõlmata täiesti uute piltide loomist inimesest või olemasolevate videote muutmist, et tekitada muljet, nagu üks isik ütleks või teeks midagi, mida ta tegelikult kunagi ei teinud.
Mis on süvavõltsingud?
Süvavõltsingud on konkreetne tehisintellekti sünteesitud video tüüp, kus inimese nägu või keha asendatakse kellegi teise sarnasusega, tihti veenvate tulemustega, mida võib olla raske tuvastada võltsina.
Kui laialt levinud on identiteediväärtuste kuritarvitamise probleem tehisintellekti sünteesitud videotega?
Kuigi seda on raske maailmas kvantifitseerida, on identiteediväärtuse kuritarvitamise probleem tehisintellekti sünteesitud videotega tõusudev ja kiiresti eskaleeruv probleem. Kuna tehisintellekti tehnoloogia muutub ligipääsetavamaks, muutuvad seda ka vahendid selle kuritarvitamiseks süvavõltsingute loomiseks ja teiste sisude loomiseks ilma isikute nõusolekuta.
Millised on tehisintellekti sünteesitud videote olulised väljakutsed ja kontroversid?
Väljakutsed:
1. Avastamine: Eraldi tegelike ja tehisintellektiga sünteesitud videotega on raske vahet teha, kuna tehnoloogia paraneb.
2. Regulatsioon: Praegused seadused ja regulatsioonid võivad olla ebapiisavad süvavõltsingute ja tehisintellekti sünteesitud sisu ainulaadsete väljakutsetega tegelemiseks.
3. Privaatsus: Isikliku privaatsuse oluline rikkumine tekib, kui kellegi kujutist kasutatakse ilma nõusolekuta.
Meediakontrollid:
1. Nõusolek: Isikutelt puudub nõusolek, kelle kujutist kasutatakse tehisintellekti sünteesitud videote loomiseks.
2. Eetilised tagajärjed: Selle tehnoloogia väärkasutamine võib kahjustada mainet, manipuleerida avalikku arvamust või levitada valeinformatsiooni.
3. Õiguslikud tagajärjed: Raskused süüdlaste ja jurisdiktsioonide tuvastamisel muudavad õiguslikud lahendused keeruliseks.
Ai-sünteesitud videote eelised:
1. Meedia uuenduslikkus: AI saab luua kaasahaaravat sisu filmidele, mängudele ja virtuaalsele reaalsusele, parandades meelelahutuskogemusi.
2. Meditsiiniline koolitus ja haridus: AI-generaatorid võivad abi osutada meditsiinilises koolituses ilma reaalsete patsientide riskita.
3. Isikupärastamine: Ettevõtted saavad kasutada AI-d sisu isikupärastamiseks üksikisikutele, parandades kliendikogemust.
Ai-sünteesitud videote puudused:
1. Valeinformatsioon: Võib kasutada valeuudiste ja propagandavideode loomiseks.
2. Privaatsuse rikkumised: Isikud võivad leida, et nende kujutist kasutatakse ilma nende loata.
3. Küberkuritegevus: AI süntees võib olla vahend identiteedivarguse, väljapressimise ja pettuse jaoks.
Soovitatavad seotud lingid:
– ÜRO teabe saamiseks rahvusvahelistest jõupingutustest küberkuritegevuse vastu võitlemiseks.
– INTERPOL ülevaate saamiseks küberkuritegevuse ja digitaalse identiteedivarguse globaalsest järelevalvest.
– AI4People eetiliste raamistike ülevaate saamiseks seoses tehisintellektiga.
– Electronic Frontier Foundation (EFF) aruteludeks digitaalse privaatsuse ja sõnavabaduse kohta veebis.
On oluline arvestada, et iga AI tööriist, ka need, mis suudavad luua või manipuleerida isiklikku sarnasust, loovad uue lahinguareeni digitaalsete õiguste ja eetiliste kaalutluste osas. Vaja on pidevat arutelu ja ajakohastatud õigusaktid, et kaitsta isikute identiteete ja võtta vastutusele need, kes kuritarvitavad tehisintellekti tehnoloogiaid.
The source of the article is from the blog myshopsguide.com