Apple podjęło zdecydowane działania przeciwko aplikacjom zaangażowanym w generowanie niezgodnych z wolą osób nagich zdjęć, w odpowiedzi na raport śledczy firmy 404 Media. Gigant technologiczny usunął trzy zidentyfikowane aplikacje ze swojego sklepu App Store, które były zaangażowane w nieprawidłowe wykorzystanie. Pomimo podjęcia tego koniecznego kroku, informacje z dochodzenia wskazały, że Apple miał pewne opóźnienia w reakcji, dopóki bezpośrednie linki do naruszających aplikacji w App Store nie zostały im dostarczone.
Te aplikacje były promowane przez bezczelne taktyki reklamowe na platformach społecznościowych, takich jak Instagram. Reklamy wabiły użytkowników frazami obiecującymi możliwość „rozebrania każdej dziewczyny za darmo” i „usunięcia każdego ubrania”.
Platformy mediów społecznościowych doświadczyły znacznego wzrostu dystrybucji pornografii wykorzystującej technologię deepfake, powodując, że niewinne nastolatki i osoby publiczne padają ofiarami. Wśród dotkniętych są znane osobistości, takie jak muzyk Taylor Swift oraz polityczka Alexandria Ocasio-Cortez. Projekt ustawy DEFiance Against Non-consensual Explicit (DEFIANCE) został wprowadzony przez posłankę Ocasio-Cortez do Izby Reprezentantów w celu ustanowienia federalnych odszkodowań cywilnych dla ofiar deepfake. Podobna ustawa została również zaproponowana w Senacie, ale jeszcze nie odnotowała postępów.
To nie tylko App Store boryka się z problemem pornografii deepfake. Deepfake z Taylor Swift były rozprzestrzeniane na nieokreślonych forach, a Rada Nadzorcza Meta (Facebook) zobowiązała firmę do pogodzenia swojej sprzecznej polityki egzekwowania wobec obrazów eksploracyjnych manipulowanych przez AI.
W Wielkiej Brytanii Ministerstwo Sprawiedliwości ogłosiło plany zakazania tworzenia seksualnie eksplicitnych deepfake’ów, podobnych do tych, które mogły być produkowane przez usunięte aplikacje, jeszcze bardziej ugruntowując globalne stanowisko przeciwko wykorzystywaniu cyfrowemu.
Ważne pytania i odpowiedzi:
– Co motywuje Apple do działań przeciwko tego rodzaju aplikacjom?
Apple ma zobowiązanie do ochrony prywatności i etycznego wykorzystania technologii. Firma stara się utrzymać bezpieczne i szanujące środowisko w swoim sklepie App Store. Eliminując aplikacje generujące niezgodne z wolą osoby nagie obrazy, Apple przestrzega swoich zasad i chroni użytkowników przed wykorzystaniem i nękaniami.
– Jak platformy mediów społecznościowych mogą zapobiegać rozprzestrzenianiu się pornografii deepfake?
Platformy mediów społecznościowych mogą ulepszyć swoje strategie moderowania treści, wykorzystać bardziej zaawansowane narzędzia do wykrywania deepfake’ów, zaktualizować swoje zasady w celu jasnego wskazania problemu deepfake’ów, oraz współpracować z organami ścigania prawa i innymi organizacjami dedykowanymi walce z wykorzystywaniem cyfrowym.
– Jaki jest stan prawny tworzenia i udostępniania niezgodnych z wolą treści deepfake?
Stan prawny treści deepfake różni się w zależności od kraju. W niektórych miejscach wprowadzane są lub już obowiązują przepisy karnujące tworzenie i dystrybucję eksploracyjnych deepfake’ów, podczas gdy w innych prawodawstwo wciąż dostosowuje się do technologii.
Ważne Wyzwania i Kontrowersje:
– Technologia Przyspiesza Legislatorstwo: Jednym z głównych wyzwań jest tempo rozwoju technologii, często wyprzedzające prawa. Sprawia to, że skuteczne regulowanie i prowadzenie postępowań w przypadkach związanych z technologią deepfake i niezgodną z wolą treścią jest trudne.
– Wykrywanie i Egzekwowanie: Efektywne wykrycie treści deepfake i egzekwowanie zasad przeciwko nim stanowi wyzwanie ze względu na złożoność technologii i ilość udostępnianych treści online.
Zalety i Wady:
– Zalety: Usunięcie tych aplikacji chroni prywatność i godność użytkowników oraz może zniechęcić do tworzenia i dystrybucji tak wykorzystujących treści. Może również przyczynić się do bezpieczniejszego środowiska online i pomaga utrzymać etyczne standardy w wykorzystaniu technologii.
– Wady: Może istnieć potencjalne wady związane z nadmiernym naruszeniem i możliwymi skutkami dla legalnych aplikacji używających podobnych technologii dla celów etycznych, takich jak CGI w filmach lub dla rozrywki dla dorosłych, gdzie uczestnicy wyrazili zgodę.
Related Links:
– Apple
– Instagram
– Meta (Facebook)
– UK Ministry of Justice