Rychlý pokrok technologie přinesl společnosti jak pozitivní, tak negativní dopady. Jedním z obávaných trendů, který se objevil, je používání aplikací umělé inteligence (AI) školáky k vytváření nahých obrazů. Nedávná zpráva vlády upozornila na tento problém, varujíc, že děti nejen stahují tyto aplikace, ale také je nelegálně sdílí se svými kamarády. Navíc organizované zločinecké gangy tyto aplikace zneužívají k vydírání dětí pomocí počítačem vytvořených explicitních obrázků.
Zpráva, kterou sepsal UK Council for Internet Safety, poskytuje učitelům pokyny, jak řešit problém sdílení explicitních obrázků studenty. Zdůrazňuje potřebu zacházet s AI-generovanými obrázky, deepfake-mi a případy „sexstrojce“ stejně vážně jako s tradičními nahými obrázky. To zahrnuje zdržení se sledování nebo odstranění obrázků, okamžité kontaktování orgánů činných v trestním řízení a zdržování informování rodičů v určitých případech.
Aktivisté a odborníci uvítali tato doporučení, ale požadují přísnější opatření ze strany regulačních orgánů, jako je Ofcom, který dohlíží na zákon o bezpečnosti online prostředí 2023. Kritici tvrdí, že je třeba přijmout aktivnější a komplexnější přístup k zastavení šíření AI nahých fotografií.
V současné době je nelegální sdílet deepfake pornografii nebo AI nahé obrázky dospělých bez jejich souhlasu. Je také zakázáno hrozit, že tyto obsahy budou sdíleny. Nicméně tvorba AI nahých obrázků dospělých zůstává legální. Na druhé straně zákon explicitně trestá tvorbu, vlastnictví a sdílení nahých nebo sexuálních obrázků dětí, včetně AI-generovaných fotografií, neboť představuje sexuální zneužívání dítěte.
Je třeba poznamenat, že souhlasné sdílení explicitních fotografií mezi jednotlivci mladšími 18 let je nyní klasifikováno jako trestný čin. Navíc je pro nezletilé zakázáno vytvářet a sdílet AI nahé fotografie svých spolužáků. Účelem těchto zákonů je chránit mladé jedince před vykořisťováním a zneužíváním.
Odborníci vyjádřili obavy ohledně přístupnosti aplikací na vytváření AI nahých fotografií, což přispělo k nárůstu virtuálního vykořisťování žen a dívek. Profesorka Clare McGlynn z Univerzity v Durhamu identifikovala dvě hlavní situace: mladí chlapci používají tyto aplikace k tvorbě falešných nahých fotografií svých spolužaček k obchodování a sdílení a organizovaní podvodníci vytvářejí deepfake nahé obrázky a používají je jako materiál k vydírání. Profesorka McGlynn zdůrazňuje potřebu většího povědomí o tomto problému a vyzývá oběti, aby nahlásily své zkušenosti bez obav z obviňování.
Zatímco vládní zpráva uznává významný nárůst případů „sexstrojce“ podněcovaných použitím aplikací AI, zároveň ujišťuje veřejnost o svém závazku k bezpečnosti online prostředí. Podle mluvčího vlády zákon o bezpečnosti online prostředí nabízí robustní ochranu dětem a zneužívání sdílení deepfake intimních obrázků bez souhlasu je trestné. Sociálním sítím byly také přiděleny nové povinnosti ke snížení šíření nelegálního obsahu, přičemž možné pokuty mohou činit miliardy liber.
Vzhledem k těmto událostem se vedou diskuse o možných opatřeních k řešení tohoto problému. Peter Kyle, stínový ministr pro vědu labouristů, údajně zvažuje zákaz aplikací na nahé fotografování a technologií deepfake. Susie Hargreaves, generální ředitelka Internet Watch Foundation, zdůrazňuje vážné nebezpečí, které AI technologie představují v rukou zločinců, a vyzývá k kolektivnímu jednání k ochraně dětí před vykořisťováním a zneužíváním.
Často kladené dotazy (FAQ)
The source of the article is from the blog queerfeed.com.br