Sel aastal märtsis levis sotsiaalsete võrgustike (SNS) kaudu Ameerika Ühendriikide presidendi Joe Bideni veenvalt realistlik võltsvideo kiiresti. Selle loomise paljastatud meetod hõlmas keeruka kunstliku intelligentsuse (AI) teenust, mis oli kohandatud sisu loomiseks tuntud Ameerika isikutest. Selle AI abil saavad kasutajad genereerida petlikke videoid, sisestades lihtsalt ingliskeelse dialoogi, tulemuseks on hästi autentne häälte ja näoilmete süntees vaid mõne minuti jooksul. Tagasihoidliku tasu eest kaks dollarit minutis sai peaaegu igaüks selle tehnoloogia juurde pääseda.
Selle teenuse potentsiaalse kuritarvitamise, eriti arvestades USA presidendivalimiste novembris lähenemist, tõttu tekib märkimisväärne mure valeinfo leviku osas. AI teenusepakkujate ja võltsvideo üleslaadijate intervjuud kinnitasid nende osalemist video tootmises. Tokyo turvafirma Mitsui Bussan Secure Directionsi töötaja Takashi Yoshikawa loosis video verifitseerimise eesmärgil uuesti, saavutades identse tulemuse veebis levitatud videole, sealhulgas täiusliku vastavuse helilainele.
Petlik Bideni video, mis kestis 14 sekundit ja oli varustatud pealkirjaga, mis viitab tõe dramaatilisele avalikustamisele presidendi poolt, postitati endise nimega Twitteri saitile ja ka Telegrami sõnumirakendusse. Video näitab presidenti esitamas uskumatuid väiteid pressikonverentsil, mis lähenes peaaegu 660 000 vaatamisele 1. aprilliks. Video üleslaadija, kes end ise identifitseeris vandenõu teoreetikuna, tunnistas video võltsimist, kuid väitis, et AI loodud Bideni poolt välja öeldud tunded pidasid tõele vastu.
Aktuaalsed turusuunad:
Valevideote loomine ja levitamine, mida tuntakse populaarselt kui süvavõltsinguid, on muutunud tehnoloogiliselt lihtsamaks ja kättesaadavamaks tänu tehisintellekti ja masinõppe tehnoloogiate edusammudele. On mitmeid tööriistu ja rakendusi, mis võivad realistlikult kujutada nägusid, järele teha hääli ja luua näoilmeid. Sotsiaalmeediaplatvormid on muutunud peamiseks kanaliks sellise sisu levitamisel, mis on veelgi keerukam tänu nende algoritmilistele võimendusmehhanismidele.
Turusuunad näitavad nõudluse suurenemist tugevamate sisuhaldusmeetodite järele pettuste vastu võitlemiseks. Sotsiaalmeediaettevõtted on suurema surve all rakendada avastamistööriistu ja kehtestada poliitikaid AI loodud võltsinfo käsitlemiseks. Samal ajal uurivad meelelahutus- ja filmiindustri tegevusalad selle tehnoloogia potentsiaali õiguspärasteks eesmärkideks.
Prognoosid:
Eksperdid ennustavad, et süvavõltsimistehnoloogia täpsus jätkab paranemist, muutes tõeliste videote ja võltsvideote eristamise raskemaks. See võib viia “reaalsuse apaatia” tekkimiseni, kus üldsus hakkab kõigesse meediasse skeptiliselt suhtuma. Teisalt arenevad ka teenused ja tööriistad süvavõltsingute avastamiseks ja ümberlükkamiseks. Küberturvalisuse turg ennustab süvavõltsimise avastamise lahenduste kasvu ja digitaalse meedia autentimise suurenenud investeeringuid.
Põhilised väljakutsed või vaidlusalused küsimused:
Peamiseks mureks on süvavõltsingute pahatahtlik kasutamine valeinfo levitamiseks, eriti tundlikel aegadel nagu valimisperioodid või globaalsed kriisid. Need võltsvideod võivad õõnestada usaldust institutsioonide ja indiviidide vastu, kujutada ohtu riiklikule julgeolekule, kahjustada mainet ja õhutada vägivalda.
Lisaks on eetilised ja õiguslikud väljakutsed seotud nõusoleku ja isiku sarnasuse kasutamisega ilma loata. Tasakaalu leidmine süvavõltsingute reguleerimise ja sõnavabaduse kaitse vahel on endiselt vastuoluline teema.
Olulised küsimused:
– Kuidas saab avalikkus vahet teha ehtsate ja AI poolt loodud võltsvideote vahel? Suurenenud digitaalne kirjaoskus ja avalikkust teavitavad kampaaniad koos tehnoloogiliste lahendustega, nagu näiteks blockchainil põhinevad sisu päritolu tööriistad, on olulised.
– Mis on süvavõltsingute tootmisega seotud õiguslikud tagajärjed? Seaduslikkus erineb riigiti, kuid on üha kasvav nõudlus rahvusvaheliste standardite ja määruste järele selle tehnoloogia väärkasutamisele vastu astumiseks.
– Kas AI saab aidata süvavõltsinguid avastada? Jah, AI on esirinnas nii süvavõltsingute loomisel kui ka avastamisel, teadlased arendavad algoritme, et tuvastada videotest ebatäpsusi ja anomaaliaid.
Eelised:
– AI loodud videoid saab kasutada õiguspärastel eesmärkidel nagu filmindus, mängud ja virtuaalreaalsus ilma vajaduseta kallite tootmiskulude järele.
– Harivad ja teavitustöö algatused saavad kasutada neid tehnoloogiaid ajalooliste figuuride või hüpoteetiliste stsenaariumide mõjuvamaks esitamiseks.
Puudused:
– Informatsiooni valesti esitamise ja laimava sisuga seotud kahju potentsiaal on oluline.
– Süvavõltsingud seab kahtluse alla seaduslikud raamistikud identiteedivarguse ja nõusoleku küsimustes.
– Nähtus võib kaasa aidata sotsiaalse ühtsuse lagunemisele ja usalduse kaotusele avalikus arutelus.
Kõigile, kes soovivad teemat põhjalikumalt uurida, on siin mõned kasulikud ressursid:
– Kunstlik Intellekt Organisatsioon
– Tarbijate Ülevaated
– Elektroonilise Piirivalve Fond
Need lingid annavad laiema arusaamise AI loodud võltsvideote sotsiaalmeedias tekitatud tagajärgedest, tehnilistest aspektidest ja käimasolevatest aruteludest.