Nástup deepfakov, umelo vytvorených manipulatívnych obrázkov a videí s pomocou umelej inteligencie, vyvolal značné obavy, najmä pokiaľ ide o ich dopad na ženy. Tieto deepfaky často zahŕňajú vytvorenie sexuálne explicitného obsahu bez súhlasu osôb zapojených, čo vedie k závažným dôsledkom pre obete. Avšak existujú úsilie na riešenie tohto problému a ochranu žien pred škodami.
Jednou z významných iniciatív je prvá smernica o násilí voči ženám, ktorú pripravuje Európska únia. Táto smernica, ktorej schválenie sa očakáva v apríli 2024, má za cieľ stanoviť súbor zákonov pre všetky členské štáty EÚ na boj proti kybernásiliu, vrátane deepfakov. Implementáciou zjednotených zákonov sa EÚ snaží vytvoriť jednotný prístup k riešeniu tohto rastúceho problému.
Prognózy trhu naznačujú významný nárast prevalence deepfakov. Medzi rokmi 2019 a 2023 došlo k ohromnému 550% nárastu počtu analyzovaných deepfake videí. Tieto manipulované videá využívajú AI algoritmy na obnaženie žien bez ich súhlasu, často vedúce k haneniu, ponižovaniu a dokonca i sexuálnemu uspokojeniu pre tvorcov. Obrázky používané v týchto deepfakoch sú získané z rôznych platforiem, vrátane sociálnych médií a komunikačných aplikácií.
Predchádzanie vytváraniu deepfakov predstavuje značnú výzvu, pretože vyžaduje rýchle kroky na odstránenie a demontáž distribučných sietí. Spoliehať sa iba na opatrenia kybernetickej bezpečnosti je nedostatočné pri boji proti tomuto problému. Obete deepfakov sa aktuálne spoliehajú na existujúce zákony, ako je Všeobecné nariadenie o ochrane údajov (GDPR) v EÚ a národné zákony o klevete, na ochranu. Avšak tieto zákony môžu vyžadovať ďalší rozvoj, aby účinne riešili povahu deepfakov a škody, ktoré spôsobujú.
Keď sa stretne s takými deepfakmi, obete sa odporúča dokumentovať obsah pomocou snímok obrazovky alebo videozáznamov. Tieto môžu slúžiť ako kľúčové dôkazy na nahlásenie priestupku na sociálne médiá a úrady. Okrem toho platformy ako Stop Non-Consensual Abuse of Private Images (StopNCII) využívajú technológiu AI, aby umožnili obetiam nahlasovať svoje obrázky a automaticky žiadať ich odstránenie z viacerých platforiem.
Jedným z významných problémov spojených s deepfakovými priestupkami je ich globálna povaha. Páchateľ môže byť umiestnený v iných krajinách ako obete a servery hostiaci obsah môžu byť umiestnené v iných krajinách. Z tohto dôvodu je medzinárodná spolupráca nevyhnutná na efektívne riešenie cezhraničných kybernetických trestných činov. Napriek tomu, že navrhovaná smernica v rámci EÚ stanovuje rámec pre riešenie týchto trestných činov v členských štátoch, spolupráca s inými krajinami je kľúčová pre zabezpečenie komplexného prístupu.
Zákonodarca musí sa prispôsobiť a držať krok s rýchlym vývojom AI technológií. Napriek tomu, že smernica EÚ je dôležitým krokom, budú pravdepodobne potrebné ďalšie úpravy na účinné riešenie výziev, ktoré prinášajú posuny v AI technológiách. Toto neustále úsilie zostať krok vpredje nevyhnutné pre ochranu žien pred zneužitím nástrojov AI pri vytváraní nelegálnych deepfakov.
The source of the article is from the blog jomfruland.net