Spoločnosť Apple prijala rozhodujúce opatrenia proti aplikáciám, ktoré boli zapojené do vytvárania nekonzistentných nahých obrázkov bez súhlasu, podľa vyšetrovacieho správy od 404 Media. Technologický gigant odstránil tri identifikované aplikácie zo svojho App Store, ktoré boli zapojené do zneužitia. Napriek tomuto nevyhnutnému kroku informácie zo vyšetrovania naznačovali, že Apple mal určité oneskorenia vo svojom odpovedaní, kým im neboli poskytnuté priame odkazy na porušujúce aplikácie v App Store.
Tieto aplikácie boli propagované agresívnymi reklamnými taktikami na sociálnych platformách ako Instagram. Reklamy lákali používateľov frázami sľubujúcimi schopnosť „odúbrať akúkoľvek dievča zadarmo“ a „odstrániť akékoľvek oblečenie“.
Sociálne médiá zaznamenali signifikantný nárast distribúcie pornografie využívajúcej technológiu deepfake, čo spôsobilo, že bezstarostní najstariši a verejnými osobnosťami sa stali obeťami. Medzi postihnutými sú osobnosti ako hudobníčka Taylor Swift a politička Alexandria Ocasio-Cortez. Zákon DEFiance Against Non-consensual Explicit (DEFIANCE) bol predstavený zástupkyňou Ocasio-Cortez v Snemovni reprezentantov s cieľom stanoviť federálne občianske náhrady pre obeť deepfake. Podobný návrh zákona bol tiež navrhnutý v Senáte, ale zatiaľ neudrial ďalej.
Problém deepfake pornografie nezvláda len App Store. Deepfake Taylor Swift sa šírili na neurčitých fórach a dozorná rada Meta poverila spoločnosť, aby zjednotila nekonzistentné politiky vymáhania pri AI manipulovaných explicitných obrázkoch.
V Spojenom kráľovstve ministerstvo spravodlivosti oznámilo plány zakázať vytváranie sexuálne explicitných deepfake, podobných tým, ktoré mohli byť vytvorené odstránenými aplikáciami, ktoré ešte viac zdôvodňujú globálne stanovisko proti digitálnej exploitácii.
Dôležité otázky a odpovede:
– Čo motivuje Apple k tomu, aby prijal opatrenia proti týmto typom aplikácií?
Apple má záväzok k ochrane súkromia a etickému používaniu technológie. Spoločnosť si dáva za cieľ udržiavať bezpečné a zdvorilé prostredie svojho App Store. Odstraňovaním aplikácií, ktoré vytvárajú nekonzistentné nahé obrázky bez súhlasu, Apple dodržiava svoju politiku a chráni používateľov pred explotáciou a obťažovaním.
– Ako môžu sociálne médiá zabrániť šíreniu deepfake pornografie?
Sociálne médiá môžu zlepšiť svoje stratégie moderovania obsahu, použiť sofistikovanejšie nástroje na detegovanie deepfarek, aktualizovať svoje politiky tak, aby explicitne riešili deepfake a spolupracovať s políciou a inými organizáciami venovanými boju proti digitálnej exploitači.
– Aký je právny status vytvárania a zdieľania nekonzistentného obsahu deepfake?
Právny status deepfake obsahu sa líši v závislosti od krajiny. V niektorých miestach sa prijímajú alebo už prijali zákony, ktoré kriminalizujú vytváranie a distribúciu nekonzistentného explicitného deepfake, zatiaľ čo v iných prípadoch je právne rámec stále doháňaný technológiou.
Kľúčové výzvy a kontroverzie:
– Technológia predbehnúca právne predpisy: Jednou z hlavných výziev je rýchlosť, akou sa technológia vyvíja, často predbehnúc právne predpisy. To robí ťažké efektívne regulovať a trestať prípady týkajúce sa technológie deepfake a nekonzistentného obsahu.
– Detekcia a vymáhanie: Účinné zisťovanie deepfake obsahu a vymáhanie politík je náročné v dôsledku sofistikovanosti technológie a objemu zdieľaného obsahu online.
Výhody a nevýhody:
– Výhody: Odstránením týchto aplikácií chráni používateľov v súkromí a dôstojnosti a môže odhaliť vytváranie a distribúciu takého vykorisťujúceho obsahu. Môže to tiež prispieť k bezpečnejšiemu online prostrediu a pomôcť udržiavať etické štandardy v používaní technológie.
– Nevýhody: Môžu existovať potenciálne nevýhody v podobe prehnanosti a možných dopadov na legitimné aplikácie, ktoré používajú podobné technológie na etické účely, ako napríklad CGI vo filmoch alebo v oblasti pre dospelých, kde sa účastníci dohodli.
Súvisiace odkazy:
– Apple
– Instagram
– Meta (Facebook)
– Ministerstvo spravodlivosti Spojeného kráľovstva