Olga Loiek se confruntă cu un dublu digital falsificat
La trezirea într-o dimineață, Olga Loiek, o tânără ucraineană de 21 de ani, youtuber și studentă la Cogniție și Calcul Combinatoric, s-a simțit surprinsă să descopere o mulțime de mesaje care îi admirau presupusele abilități de a vorbi mandarină. Confuză, a dat peste un link către un videoclip trimis printr-un mesaj care o avertiza despre un impostor. Dând clic pe link, a făcut o descoperire șocantă.
O clonă digitală răspândind dezinformare
Videoclipul, găzduit pe platforma de socializare chineză Xiaohongshu, prezenta ceea ce părea a fi sora ei geamănă, vorbind fluent mandarină. Șocată, Olga a recunoscut propria sa față și voce, dar cuvintele nu îi aparțineau. Clona generată de inteligența artificială era implicată în laudarea relațiilor China-Rusia, plângându-se de sancțiunile impuse Moscovei și făcând reclamă produselor rusești de vânzare, toate povești pe care adevărata Loiek nu le-ar fi promovat niciodată.
Diverse platforme din China o reprezentau pe ea ca fiind Natasha, Anna sau Grace – o femeie rusoaică care adopta cultura chineză și exprima dorința de a se căsători cu un bărbat chinez.
Tehnologia Deepfake utilizată ca un instrument politic
Loiek a împărtășitu experiența sa, evidențiind natura ireală și îngrijorătoare a faptului de a fi informat că propria sa imagine este folosită în scopuri de propagandă străină. Ea și-a exprimat frustrarea și furia clară dată fiind situația conflictului în curs din țara sa natală, cu familia sa și ceilalți ucraineni suferind de impactul devastator al situației.
Loiek a descoperit că au fost generate peste 4.900 de videoclipuri cu clona sa falsificată. Ea, împreună cu urmăritorii săi de pe YouTube, a raportat conturile false, ceea ce a dus la închiderea a zeci dintre ele. Deși această problemă cu Loiek a fost abordată, subliniază o problemă mai amplă privind utilizarea greșită a inteligenței artificiale în crearea de conținut înșelător. Țările fac eforturi pentru a actualiza legile și regulamentele privind inteligența artificială, dar mai este încă un drum lung de parcurs pentru asigurarea protecției oamenilor împotriva unei astfel de utilizări greșite.
Întrebări și răspunsuri importante:
1. Cum a fost replicată identitatea Olgei Loiek?
Identitatea Olgei Loiek a fost replicată folosind tehnologia deepfake, care implică utilizarea inteligenței artificiale pentru a crea imagini, audio și videoclipuri convingătoare care dau aparența că o persoană face sau spune ceva ce nu a făcut sau spus.
2. Care este semnificația conținutului pe care clona generată de AI îl răspândește?
Semnificația constă în natura politică a conținutului. Clona răspândea mesaje de susținere a relațiilor China-Rusia și critici la adresa sancțiunilor împotriva Moscovei, ceea ce se aliniază cu narative propagandistice și ar putea influența opinia publică, mai ales în contextul tensiunilor geopolitice crescute.
3. Ce acțiuni au fost întreprinse pentru a aborda problema?
Acțiunile întreprinse au inclus raportarea conturilor false către platformele care găzduiau videoclipurile. Olga Loiek și urmăritorii săi le-au raportat, ceea ce a dus la închiderea a peste o duzină dintre ele. Acest lucru a ajutat să se oprească răspândirea dezinformării, dar nu previne pe deplin apariția unor astfel de situații în viitor.
Provocări și controverse cheie:
– Reglementarea tehnologiei Deepfake: Legile și reglementările au dificultăți în a ține pasul cu avansul rapid al tehnologiilor AI și deepfake, ducând la provocări în guvernare și aplicarea măsurilor împotriva utilizării greșite.
– Identificare și Verificare: Devine tot mai dificil pentru oameni și sistemele automate să facă distincția între conținutul real și cel generat de AI, generând preocupări legate de fiabilitatea informațiilor online.
– Autenticitate și Consimțământ: Tehnologia deepfake ridică întrebări etice despre autenticitatea persoanelor online și importanța consimțământului atunci când este utilizată imaginea unei persoane.
– Utilizare politică: Potențialul tehnologiei deepfake de a fi folosită în propagandă, așa cum s-a întâmplat în cazul Olgei Loiek, ilustrează o provocare majoră din domeniile politicului și socialului, cu consecințe asupra relațiilor internaționale și încrederea în mass-media.
Avantaje și Dezavantaje:
Avantaje:
– Incidentul a crescut conștientizarea cu privire la posibilitatea unei utilizări greșite a tehnologiei AI și deepfake, deschizând calea pentru un dialog mai informat asupra subiectului.
– A inițiat și o discuție mai amplă despre necesitatea unei reglementări mai stricte și a unor procese de autentificare mai robuste în media digitală.
Dezavantaje:
– Utilizarea greșită a identității lui Loiek ilustrează pericolele deepfake-urilor în răspândirea dezinformării și propagandei, care pot avea consecințe reale.
– Victimele preluării identității prin deepfake pot experimenta o distres și prejudicii semnificative asupra reputației lor, precum și repercusiuni legale și financiare atunci când încearcă să-și restaureze imaginea.
Pentru cei interesați să exploreze în profunzime probleme legate de inteligența artificială, tehnologia deepfake și dezinformarea online, puteți vizita următorul site web: MIT Technology Review. Acest link vă va duce către domeniul principal al unei surse de încredere pentru știri și perspective tehnologice, asigurându-vă că informațiile sunt actuale până la ultima dată de cunoaștere.