Olja Lūko digitalinės dėlionės kalba mandarinų kalba ir rėmia Rusijos prekes.
Ukrainos studentė ir blogerė Olga Lūka atrado, kad Kinijos socialiniuose tinkluose jos AI-sugeneruotos avatarų skulptūros skelbia tvirtą draugystę tarp Pekino ir Maskvos, taip pat reklamuoja Rusijos prekes. 21 metų mergina tai pavadino šokiruojančiu, nes niekada nepasakė žodžių, priklausančių jos avatarui.
Lūke tvirtina, kad tokia situacija yra absurdiška, kadangi ji yra iš Ukrainos, valstybės, susiduriančios su Rusija nuo 2022 m. prasidėjusios pilnosios karo. Ukrainos figūros naudojimas Rusijos propagandai tik prideda prie ironijos.
Gyvenanti Miunchene ir studijuojanti Pensilvanijos universitete, Lūkos asmeninis „YouTube“ kanalas paprastai sutelktas į psichinę sveikatą. Tačiau jos sekėjai jai pranešė, kad matė jos paveikslą skelbiant Rusijos produkciją Kinijos tinkluose.
Tas paveikslas nebuvo Lūka, o rusiška asmenybė, naudojanti jos veidą, sklandžiai bendraujanti mandarinų kalba – kalba, kurios ji niekada nesimokė. Šie AI-klonuoti avatarai, nepriklausomai nuo to, ar juos vadina Natasha, Sofia, April ar Stacy atsižvelgiant į platformą, daugiausia buvo skirti skatinti Siną-Rusijos draugystę ir Rusijos maisto pramonę, kas Lūkai paaiškino asmeniškai įžeidžiančiu.
Lūkos AI įsikūnijimas buvo pastebėtas vaizdo įrašuose Douyin ir Bilibili, tvirtinančių, kad Rusija yra superinė valstybė ir sukdantys žiūrovus pirkti „autentiškas Rusijos prekes“ iš internetinių parduotuvių. Viena pastebima paskyra „Natasha įvežtas maistas“ susilaukė daugiau nei tris milijonus sekėjų.
HeyGen, atsakinga už Lūkos klonus, imasi veiksmų.
Nustatę apie 35 suklastotas paskyras, kuriose buvo naudojamas jos veidą, Lūka atrado, kad jos klonai buvo sukurti naudojant „HeyGen“, žinomą dėl jų realizmą turinčių skaitmeninių avatarų, garso generavimo ir daugiakalbių vaizdo vertimų. Sekdamas naratyvą, pareikšta jos sužadėtinio socialiniuose tinkluose, įmonė pripažino, kad buvo daugiau nei 4 900 nepageidaujamų vaizdo įrašų, kuriuose dalyvavo Lūkos veidas, ir užtikrinta, kad nusikaltėliai buvo užblokuoti.
Gili klastos ir privatumo sukčiavimas plinta, nepaisant Kinijos AI reglamentavimo.
Ekspertai perspėja, kad asmenys, panašūs į Lūką, gali neturi savo saugumo pavojingų, pažeidžiant Kinijos įstatymus. Iššūkis kovoti su sparčiai populiarėjančiu sintetiniu medijos ir jos implikacijų išlieka iššūkiu visame pasaulyje, nes teisės aktų požiūriai plėtotėje neveikia bendrai. Ypač Jungtinės Valstijos ir Kinija yra lemiamos nustatant pramonės standartus, tačiau sutarimo sudarymas tarp tokių dalyvių yra sudėtingas.
Nors Lūka įsipareigojo tęsti savo buvimą internete, jos atvejis skatina sąmoningumą apie interneto apgaulės stiprumą. Kai kurie Kinijos interneto vartotojai jai padėjo atskleidžiant apgaulę po to, kai ją pasiekė. Tad blogerio istorija tarnauja kaip liudijimas apie skaitmeninės bendruomenės galios būtinybę ir didesnio atsakomybės poreikį susidūrus su besivystančiomis technologijomis.
Svarstant temą apie AI klonų išnaudojimą propagandai, iškyla keletas svarbių klausimų, problemų ir kontroversijų, taip pat privalumai ir trūkumai, kurie turi būti įvertinti siekiant visiško sumanymo apie implikacijas.
Svarbūs klausimai ir atsakymai:
K1: Kaip AI klonai veikia asmenines teises ir privatumą?
A1: AI klonai gali pažeisti asmenines teises ir privatumą, naudodami individo panašumą be sutikimo, dažnai siekdami tikslų, su kuriais originalus asmuo gali nesutikti arba kurie gali pakenkti jo reputacijai.
K2: Kokių iššūkių susiduria AI reglamentavimas?
A2: AI reguliavimas susiduria su iššūkiais, tokiu kaip tarptautinės vykdymo priemonės, sparčiosios technologijos pažanga, pralenkianti teisės aktų nuostatas, ir skirtingi šalių požiūriai į deepfake technologijos klausimus.
K3: Kaip aukos kaip Olga Lūka gali apsisaugoti?
A3: Aukos gali kelti viešą sąmoningumą apie savo paveikslėlio piktnaudžiavimą, imtis teisinių priemonių, jei įmanoma, ir bendradarbiauti su skaitmeninėmis platformomis, kad pašalintų neleistiną turinį. Taip pat, stebėti jų internetinį buvimą, kad būtų išvengta asmens panašumo į neleistinas naudojimo galimybes, gali būti svarbu.
Svarbūs iššūkiai ir kontroversijos:
AI naudojimas sukurtiems skaitmeniniams dėlionėms apima sudėtingą etinių, teisinių ir technologinių iššūkių rinkinį:
– Užtikrinti, kad individų panašumai būtų apsaugoti tarptautiniu law
– Sugalvoti techninius būdus aptikti ir sustabdyti deepfake kūrimą ar sklidimą
– Suderinti AI technologijų plėtojimą ir naudojimą su privatumu ir asmeninėmis teisėmis
– Spręsti galimą geografinę grėsmę, kai deepfake yra naudojamos propagandai, ypač kai jas kuria ar taiko tam tikros šalys
Privalumai ir trūkumai:
Privalumai:
– Teigiami AI avatarų technologijos taikymo aspektai apima patobulintas kalbų vertimo paslaugas, mokomąjį turinį ir pramogas.
– AI sukurti avatarai gali lengviau įveikti kalbinius ir kultūrinius barjerus, palengvinant globalų bendravimą.
Trūkumai:
– AI piktnaudžiavimas deepfake kūrimui gali lemti dezinformaciją, sugadinti reputaciją ir manipuliuoti viešąja nuomone.
– Deepfake piktnaudžiavimo aukos gali susidurti su emociniu distresu ir reputaciniais nuostoliais, taip pat su galimais teisiniais rizikais šalyse, kuriose yra griežti turinio teisės aktai.
– Melagingos propagandos platinimas gali pabloginti politinius įtampų ir kultūrinius nesusipratimus.
Susijusi informacija ir nuorodos:
Tiems, norintiems suprasti platesnes AI piktnaudžiavimo padarinių Lūkos atveju reikšmes, naudinga aplankyti pirmaujančių AI etikos organizacijų ar didžiųjų technologijų įmonių svetaines, kurios dirba prie deepfake aptikimo:
– Dirba su AI etika: AI Etikos Visuomenė
– Įmonė, specializuojanti technologijų aptikimą: Deeptrace
Šios siūlomos nuorodos nuveda į organizacijų pagrindines sritis, susijusias su AI etika ir technologijomis, turinčiomis patirties kovojant su deepfake aptikimu. Jos tiesiogiai siejasi su iššūkiais, kuriuos kelia AI ir skaitmeninės tapatybės sukčiavimas.
The source of the article is from the blog j6simracing.com.br