Zaskrbljujoče število fotografij in videoposnetkov je bilo digitalno spremenjenih z napredno umetno inteligenco Deepfake, kar je sprožilo zmedo na družbenih omrežjih. Dogodek Met Gala z naslovom “Vrt časa”, ki je potekal v New Yorku, je postal nedolžna podlaga za to visokotehnološko zavajanje.
Deepfake tehnologija, orodje za manipulacijo, ki ga poganja umetna inteligenca, spreminja medijske vsebine, da posameznike prikaže kot da počnejo ali govorijo stvari, ki jih dejansko nikoli niso. Ta sodoben trik predstavlja pomembno grožnjo, saj je javnosti preprosto postati žrtev goljufije.
Internet je preplavljen z fotografijami, ki naj bi prikazovale Katy Perry na Met Gala, s čimer so pridobile milijone interakcij od nezavednih oboževalcev na različnih platformah, kot sta X, TikTok in Instagram. Prevaram je bilo zaupati tako preprosto, da je celo Perryjeva mama verjela, da je njena hči prisostvovala razkošnemu dogodku. Da bi razjasnila, je Katy Perry objavila video iz svojega studia in potrdila, da se dogodka ni udeležila.
Ni bila samo Perry, kateri je bila podoba ukradena; razširjen zapis na platformi X je prikazal Rihanno v bleščeči obleki na Met Gala, kljub temu da je bila doma s prehladom. Podobno je bila Lady Gaga, ki se ni udeležila Met Gale že od leta 2019, lažno prikazana na rdeči preprogi, zaradi zlorabe umetne inteligence.
Ključna vprašanja in odgovori:
1. Kaj so deepfakes?
Deepfakes so hiperrealistični video ali avdio posnetki, ki uporabljajo umetno inteligenco (AI) in strojno učenje, zlasti generativne sovražne mreže (GANs), da ustvarijo ponarejeno vsebino. Ta tehnologija lahko prepričljivo nadomesti nekoga podobo in glas v digitalnih medijih, zaradi česar se zdi, da je nekdo rekel ali storil nekaj, kar dejansko ni.
2. Katere izzive predstavljajo deepfakes?
Osnovni izziv je potencial za zlorabo pri ustvarjanju prepričljivih lažnih medijev, ki jih lahko uporabijo za blatiti posameznike, širiti dezinformacije, manipulirati s trgi delnic ali vplivati na javno mnenje med volitvami. Prepričljiva narava deepfakes otežuje ljudem razločevanje med resnično in ponarejeno vsebino, kar prispeva k podnebju nezaupanja in negotovosti.