Kai artėja rinkimų sezono Indijoje, nerimas dėl dirbtinio intelekto (AI) giliosios klastos poveikio politinėms kampanijoms auga. Giliosios klastos, kurios yra sintetinės ir realistiškos nuotraukos bei vaizdo įrašai, yra tapusios vis ryškesnės ir sudėtingesnės per pastaruosius metus. Jos gali manipuliuoti politikų kalbos ir išvaizdą, kuriant abejonių ir nepasitikėjimo jausmą tarp balsuotojų.
Su pigaus mobiliojo ryšio duomenimis ir dideliu išmaniujuoju telefonų pranašumu Indijoje kyla nerimą, kad giliosios klastos gali būti platinamos per platformas kaip „WhatsApp“, įtakodamos balsuotojų sprendimus ar verčiant jų klausimus dėl jų balsų reikšmės.
Tam, kad išspręstų šias problemas, Indijos Elektronikos ir Informacijos Technologijos ministerija neseniai išleido rekomendacijas generatyviųjų AI įmonių atžvilgiu. Rekomendacijose teigiama, kad jei šios įmonės siūlo AI sistemas, kurios vis dar yra testuojamos ar nepatikimos, jos privalo gauti aiškų leidimą iš vyriausybės ir reikiamai pažymėti gautus rezultatus. Tikslas yra užkirsti kelią neteisėtam ar klaidinančiam turiniui, kuris galėtų pakenkti rinkimų procesui.
Tačiau šios rekomendacijos sulaukė griežto pasipriešinimo tiek nacionalinių, tiek tarptautinių AI dalyvių. Daugybė teigia, kad tai stabdo inovacijas ir laisvę pareikšti savo mintis. Elektronikos ir IT ministras Rajeev Chandrasekharas paaiškino, jog rekomendacijos netaikomos startuoliams, kas suteikė šiek tiek palengvėjimo. Vis dėlto nerimai dėl AI technologijos piktnaudžiavimo išlieka.
Atsakydamas į šiuos rūpesčius, „Muonium AI“ start-up įkūrėjas Senthil Nayagam prieš rinkimus sukūrė „Etiškos AI sąjungos manifestą”. Šis manifestas siekia užtikrinti, kad AI technologijos būtų naudojamos atsakingai ir nešvaistyčiai rinkimuose, platinant klaidinančią informaciją ar eroduoja viešojo pasitikėjimo politinėmis institucijomis. Nayagam susisiekė su apie 30 įmonių, iš kurių dvi jau pasirašė manifestą, o trys yra procese.
Nes visi AI kūriniai nėra piktos giliosios klastos, skirtos šmeižti priešininkus. Kai kurios programos, tokiomis kaip asmeniškos interaktyvios telefoninės skambučių, tarnauja kaip naujovės, o ne grėsmės rinkimų pažeidžiamumui. Pavyzdžiui, politinės partijos Indijoje naudojo sintezuotas balsus, kad siųstų iš anksto įrašytus pranešimus, kuriuose atskirai pritariant kalbėjo apie vartotojų vardus. Nors šios programos atrodo nekenksmingos, svarbu atsižvelgti į piktnaudžiavimo galimybę.
Divyendra Singh Jadounas, žinomas AI kūrėjas, prisistatantis kaip „The Indian Deepfaker“, treniravo balso ir vaizdo AI modelius, kad politinėms partijoms galėtų skleisti pritaikytus pranešimus. Jis teigia dirbantis prie „etiškų“ AI kūrinių, tokių kaip patvirtinti vertimai ir atgimimas negyvių lyderių, patvirtinimu. Tačiau jis pripažįsta, kad kuo gilesnė tampa giliosios klastos technologija, partijos vis labiau gamina savasias giliasias klastas, tai lengviau skleisti klaidinančią informaciją.
Šioje srityje dirbantys ekspertai, tokie kaip Karen Rebelo iš faktų tikrinimo svetainės „BOOM“, pastebėjo reikšmingą AI giliųjų klastų padidėjimą pastaraisiais įvyusiųjų rinkimų metu Indijoje. Technologija tapo pigesnė ir labiau prieinama, leisdama bet kam su nešiojamuoju kompiuteriu kurti giliosios klastos. Tai kelia nerimą dėl giliosios klastos potencialaus poveikio rinkimų sąžiningumui ir skaidrumui.
Nors AI giliosios klastos kelia nerimą, jos taip pat turi potencialą būti naudojamos teisingai. AI technologijos gali vaidinti teigiamą vaidmenį gerinant demokratinį procesą, tokią kaip palengvindamos prieigą neįgaliems balsuotojams ar suteikdamos tikslias politinių kalbų vertimas. Rakis slypi užtikrinant, kad šios technologijos būtų naudojamos etiškai ir atsakingai.
Kol Indija ruošiasi artėjantiems rinkimams, svarbu, kad vyriausybė, AI įmonės ir politinės partijos bendradarbiautų siekdamos nustatyti aiškius vadovus ir reglamentus dėl AI naudojimo politinėse kampanijose. Prioritetą teikiant skaidrumui, atskaitingumui ir rinkimų proceso integracijai, Indija gali pasinaudoti AI potencialu, tuo pat metu mažindama kylančias grėsmes.
Gilybinės klastos politinėse kampanijose keliamos problemas ir rūpesčiai nėra riboti vien tik Indijai. Giliosios klastos technologijos naudojimas tapo globalia problema, turinčia įtakos įvairioms pramonės šakoms ir rinkoms.
Giliosios klastos pramonė artimiausiais metais yra pasirengusi žymiam augimui. Pagal „MarketsandMarkets“ ataskaitą, pasaulinė giliosios klastos rinka prognozuojama pasiekti 304,3 milijonų dolerių vertę iki 2026 m., augant konkretaus metinio augimo tempui (CAGR) 37,3% nuo 2021 iki 2026 m. Šį rinkos augimą galima priskirti besimokančios AI technologijos naudojimui ir didėjančiam sąmoningumui apie gilias klastas.
Giliosios klastos potencialinis poveikis nėra apribotas vien politinėmis kampanijomis. Pramonės šakos, tokių kaip pramogų, saugumo ar žurnalistikos, taip pat susiduria su iššūkiais, susijusiais su giliają klastos technologija. Pramogų pramonėje, pvz., giliosios klastos gali būti naudojamos manipuliuojant aktorių išvaizdą ar kuriant realistič kibernetinius avatarus. Tai kelia rūpesčių dėl privatumo, intelektinės nuosavybės teisių ir turinio autentiškumo.
Saugumo srityje giliosios klastos kelia didelę grėsmę. Suklastotos vaizdo įrašai ir nuotraukos gali būti naudojamos klaidinti asmenis ar gauti neleistiną prieigą prie sistemų. Kibernetiniai nusikaltėliai gali pasinaudoti giliaisiais klastomis, kuriant įtikinamus žūklę atakas ar manipuliuodami skaitmeniniais įrodymais teisiniuose procesuose.
Žurnalistika taip pat yra kita pramonė, paveikta giliosios klastos. Klaidinančios informacijos plitimas ir viešo pasitikėjimo naikinimas yra svarbūs iššūkiai, su kuriais susiduria žurnalistai giliąją klastų technologijomis amžiuje. Naujienų organizacijos turi plėtoti tvirtas patikravimo technikas ir šviesti visuomenę, kaip atpažinti ir patikrinti turinio autentiškumą.
Reaguodami į giliųjų klastų kylančią grėsmę, įvairūs iniciatyvos ir organizacijos atsirado siekdamos kovoti su jų neigiamais poveikiais. Viena tokių iniciatyvų yra „Debiutžūros atkėlimo iššūkis“ (DFDC), kurią suorganizavo bendradarbiavimas tarp „Facebook“, „Microsoft“, „AI Partnerystė“ ir keletos akademinių institucijų. DFDC tikslas yra plėtoti ir tobulinti aptikimo metodus, kad būtų nustatytos giliosios klastos, padedant joms apriboti plitimą.
Atsakomybė spręsti giliosios klastos klausimą yra ne tik vyriausybės reguliavimo ir pramonės iniciatyvų reikalas. Individai taip pat turi būti sąmoningi apie giliosias klastas ir kritiškai vertinti turinį, kurį jie suvartoja ir bendrini. Informacijos tikrinimas, šaltinių patikrinimas ir žiniasklaidos raštingumo skatinimas yra gyvybiškai svarbūs žingsniai kovojant su giliosioms klastoms platintojų.
Nors kovos su giliosiomis klastomis uždavinys yra sudėtingas, AI technologijos pažangą taip pat galima išnaudoti kurti įrankius, leidžiančius aptikti ir mažinti jų poveikį. Mašininio mokymo algoritmai gali būti išmokyti atpažinti anomalijas vaizdo įrašuose ar nuotraukose ir skirti tarp autentiško ir manipuliuoto turinio. Tęstiniai tyrimai ir bendradarbiavimas tarp technologijų įmonių, tyrėjų ir politikų yra būtinas efektyviam susidūrimui su giliųjų klastų kylančiomis iššūkiais.
Šaltiniai:
– MarketsandMarkets Deepfake Market Report
– Deepfake Detection
The source of the article is from the blog radardovalemg.com