Iedomājieties pasauli, kurā jūs vairs nevarat uzticēties tam, ko redzat vai dzirdat tiešsaistē. Pasaule, kurā slavenības atbalsta produktus, kuru tieši nekad nav redzējušas, un krāpnieki gūst peļņu no nevainīgiem patērētājiem. Laipni lūdzam AI deepfakes pasaulē.
Mākslīgā inteliģence augšupeja ir nesis līdzi jaunu vilni ļaunprātīgās reklāmas. Deepfake tehnoloģija ļauj krāpniekiem radīt video, kas izskatās pēc slavenību atbalsta produktiem, kad patiesībā šie atbalsti ir pilnīgi jaukti. Ar dažiem vienkāršiem klikšķiem krāpnieki var radīt audio, video un statiskus attēlus, kas ir gandrīz neatslābstami no īstām lietām.
Lai gan viltotas slavenību atbalsta izpausmes pastāv tik ilgi, cik pastāv pašas slavenības, rīku, ar kuru palīdzību tās tiek izveidotas, kvalitāte ir ievērojami uzlabojusies. Tas, kas agrāk bija vienkāršs apgalvojums par atbalstu, tagad var tikt apstiprināts ar pārliecinošu video, kas šķiet pierādīt to. Tas novedis pie krāpniecisku aktivitāšu pieauguma un palielinās bažas par tiešsaistes saturu autentiskumu.
“Pagaidām tas nav ļoti liels, bet es domāju, ka tam ir joprojām liels potenciāls kļūt daudz lielākam, dēļ tehnoloģijas, kas kļūst arvien labāka un labāka,” saka Kolins Kembels, mārketinga asociētais profesors no San Diegas Universitātes.
AI deepfake sekas ir plašākas par ļaunprātīgu reklāmu. Ar tām ir veikti viltoti robocall zvani ar politisko personību balsīm, izplatītas seksuāli eksplicitas slavenību attēli, un pat manipulēti vēlēšanu kampanijas. Tagad indivīdiem gulstas atbildība atšķirt starp reālu un neīstu, uzdevums, kas kļūst arvien sarežģītāks.
Lai gan joprojām ir dažas pazīmes, kas var palīdzēt identificēt deepfake video, piemēram, nesakritības lūpu kustībās vai trūkstošie nepilnības cilvēka runā, tehnoloģijas attīstās ātri. Eksperti prognozē, ka pāris gados būs gandrīz neiespējami atšķirt starp reālu video un deepfake.
Kamēr AI deepfakes turpina attīstīties un kļūt pārliecinošāki, ir būtiski, lai sociālo mediju platformas un tehnoloģiju uzņēmumi ieguldītu spēcīgās atklāšanas mehānismos. Atbildība aizsargāt patērētājus no ļaunprātīga satura nevajadzētu pilnībā gulsties uz individu pleciem. Bez pienācīgas regulēšanas un pasākumiem, AI deepfakes drauds turpinās augt, erozējot uzticēšanos un autentiskumu digitālajā ainavā.
The source of the article is from the blog motopaddock.nl