Conturile care folosesc fața lui Olha Lojeková, o studentă actuală la Unviversitatea din Pennsylvania, au apărut pe diverse platforme chineze, nereprezentând-o sub diferite pseudonime, precum Sofia, Nataša, April sau Stacy. Toate acestea prezintă două tipare evidente: fluența în limba mandarină, o limbă pe care domnișoara Lojeková nu a învățat-o niciodată și originea din Rusia cu o tendință de a se concentra pe relațiile chino-ruse sau de a promova bunuri rusești.
Olha Lojeková a exprimat disconfortul și ofensa provocate de frazele folosite în aceste videoclipuri, sentiment întărit de situația actuală din țara familiei sale, Ucraina. Ironic, problemele au început după ce a lansat canalul ei de YouTube, ceea ce a dus la întrebări legate de videoclipurile ei în care apărea vorbind mandarin pe rețelele sociale chinezești, o abilitate pe care nu o deținea.
Prin cercetări diligente, Olha a descoperit una dintre dublurile sale pe Xiaohongshu, asemănător cu Instagram, în timp ce alta se afla pe Bilibili, versiunea asiatică a YouTube-ului. A identificat 35 de conturi care prezintă asemănarea ei. HeyGen, creatorul tehnologiei utilizate în aceste videoclipuri, a fost notificat de această problemă și a descoperit aproape 5.000 de videoclipuri sintetizate cu ajutorul IA folosind fața lui Lojeková, blocând imediat asemănarea ei pentru generarea viitoare de videoclipuri și actualizând protocoale de securitate pentru a preveni abuzurile.
Angela Zhang de la Universitatea din Hong Kong afirmă că situația lui Olha este destul de comună în China, o țară marcată de o economie gri vastă cunoscută pentru falsificare, abuzul de date personale și producția de deepfake-uri. În ciuda eforturilor de reglementare ambițioase ale Chinei de a proteja drepturile personale împotriva conținutului digital falsificat, rămâne o provocare semnificativă, evidențiată de cele 515 arestări din anul trecut legate de schimbul de chipuri pe bază de AI.
Speculațiile privind proliferarea videoclipurilor care prezintă personaje falsificate precum Lojeková sugerează o posibilă aliniere cu narativa statală chineză, în special în ceea ce privește relația Rusia-China, o relație pe care liderii celor două țări au descris-o ca fiind infinită. Media de stat chineză repetă justificările rusești ale conflictului din Ucraina, un subiect puternic cenzurat de guvernul chinez.
Întrebări cheie și răspunsuri:
Ce este un videoclip sintetizat de IA?
Videoclipul sintetizat de IA se referă la conținutul media generat sau manipulat de tehnologiile de inteligență artificială precum deep learning. Aceste videoclipuri pot include crearea de imagini complet noi ale unei persoane sau modificarea imaginilor existente pentru a face ca aceasta să pară că spune sau face lucruri pe care nu le-a făcut niciodată cu adevărat.
Ce sunt deepfake-urile?
Deepfake-urile sunt un tip specific de videoclipuri sintetizate de IA în care fața sau corpul unei persoane este înlocuit cu asemănarea cuiva altcuiva, adesea cu rezultate convingătoare care pot fi dificil de detectat ca fiind false.
Cât de răspândită este problema utilizării eronate a identității în videoclipurile sintetizate de IA?
Deși este greu de cuantificat la nivel mondial, utilizarea eronată a identității în videoclipurile sintetizate de IA este o problemă emergentă și în creștere rapidă. În vreme ce tehnologia IA devine mai accesibilă, la fel și mijloacele de a o folosi în mod abuziv pentru a crea deepfake-uri și alte conținuturi fără consimțământul individului.
Care sunt principalele provocări și controverse asociate videoclipurilor sintetizate de IA?
Provocări:
1. Detectare: Diferențierea între videoclipuri reale și videoclipuri sintetizate de IA poate fi dificilă pe măsură ce tehnologia evoluează.
2. Reglementare: Legile și reglementările actuale pot să nu fie suficiente pentru a aborda provocările unice ale deepfake-urilor și conținutului sintetizat de IA.
3. Confidențialitate: Există o încălcare semnificativă a intimității personale atunci când imaginea unei persoane este folosită fără consimțământul ei.
Controverse:
1. Consimțământ: Lipsa consimțământului din partea persoanelor ale căror asemănări sunt folosite pentru a crea videoclipuri sintetizate de IA.
2. Implicații etice: Utilizarea abuzivă a acestei tehnologii poate afecta reputațiile, manipula opinia publică sau răspândi dezinformare.
3. Implicații legale: Dificultatea în identificarea și urmărirea autorilor și jurisdicțiile face dificilă recurgerea la calea legală.
Avantaje ale videoclipurilor sintetizate de IA:
1. Inovare în divertisment: IA poate crea conținut captivant pentru filme, jocuri și realitate virtuală, îmbunătățind experiențele de divertisment.
2. Formare medicală și educativă: Simulările generate de IA pot ajuta în formarea medicală fără riscuri pentru pacienți reali.
3. Personalizare: Companiile pot folosi IA pentru a personaliza conținutul pentru utilizatorii individuali, îmbunătățind experiența clienților.
Dezavantaje ale videoclipurilor sintetizate de IA:
1. Dezinformare: Pot fi folosite pentru a crea știri false și propagandă.
2. Încălcări ale confidențialității: Persoanele pot descoperi că asemănarea lor este folosită fără consimțământul lor.
3. Criminalitate cibernetică: Sintetizarea de IA poate fi un instrument în furtul de identitate, șantaj și fraudă.
Linkuri recomandate:
– Natiunile Unite pentru informații despre eforturile internaționale de combatere a criminalității cibernetice.
– INTERPOL pentru indicii privind poliția globală în domeniul criminalității cibernetice și a furtului de identitate digitală.
– AI4People pentru o privire de ansamblu asupra cadrului etic în ceea ce privește inteligența artificială.
– Electronic Frontier Foundation (EFF) pentru discuții despre confidențialitatea digitală și libertatea de exprimare online.
Este important să se ia în considerare faptul că orice instrument de IA, inclusiv cele care pot genera sau manipula asemănarea personală, creează un nou teren de luptă pentru drepturile digitale și considerațiile etice. Este necesară o dezbatere continuă și o legislație actualizată pentru a proteja identitățile individuale și pentru a ține responsabili pe cei care abuzează de tehnologiile de IA.
The source of the article is from the blog reporterosdelsur.com.mx