Η Apple έχει λάβει αποφασιστική δράση κατά εφαρμογών που εμπλέκονται στη δημιουργία μη συγκατηγορούμενων γυμνών εικόνων, μετά από έκθεση έρευνας της 404 Media. Η τεχνολογική γιγαντική εταιρεία αφαίρεσε τρεις αναγνωρισμένες εφαρμογές από το App Store που είχαν εμπλακεί στην κατάχρηση. Παρά το γεγονός ότι έκανε αυτό τον απαραίτητο βήμα, πληροφορίες από την έρευνα έδειξαν ότι η Apple είχε κάποια καθυστέρηση στην ανταπόκριση έως ότου τους δόθηκαν τα άμεσα συνδέσμους των παραβιάζουσων εφαρμογών στο App Store.
Αυτές οι εφαρμογές προωθούνταν μέσω τολμηρών τακτικών διαφήμισης σε κοινωνικές πλατφόρμες όπως το Instagram. Οι διαφημίσεις υποδείκνυαν στους χρήστες υπόσχοντας τη δυνατότητα να “ξεντύσουν οποιαδήποτε κοπέλα δωρεάν” και “να αφαιρέσουν κάθε ρούχο”.
Οι πλατφόρμες των κοινωνικών μέσων έχουν δει μία σημαντική άνοδο στη διάδοση πορνογραφίας χρησιμοποιώντας τεχνολογία deepfake, προκαλώντας ανυποψίαστους έφηβους και δημόσιες μορφές να γίνουν θύματα. Ανάμεσα στους πληγέντες βρίσκονται υψηλά προφίλ πρόσωπα όπως η μουσικός Taylor Swift και η πολιτικός Alexandria Ocasio-Cortez. Τον Νόμο DEFiance Against Non-consensual Explicit (DEFIANCE) προτείνει η Κας Ocasio-Cortez στη Βουλή των Αντιπροσώπων για να καθιερώσει ομοσπονδιακές αποζημιώσεις για τα θύματα της τεχνολογίας deepfake. Ένα παρόμοιο νομοσχέδιο έχει επίσης προταθεί στο Κογκρέσο αλλά δεν έχει καταφέρει ακόμη να προχωρήσει.
Δεν είναι μόνο το App Store που αντιμετωπίζει το πρόβλημα της πορνογραφίας deepfake. Τα deepfakes της Taylor Swift διαδόθηκαν σε μη καθορισμένα φόρουμ, και το Oversight Board του Meta είχε αναθέσει στην εταιρεία να συμφιλιώσει την ανεπαρκή πολιτική εφαρμογής της σχετικά με τις AI-μετασχηματισμένες εκφράσεις εικόνων.
Στο Ηνωμένο Βασίλειο, το Υπουργείο Δικαιοσύνης έχει ανακοινώσει σχέδια για νομιμοποίηση της δημιουργίας σεξουαλικά εκδιδόμενων deepfakes, παρόμοια με αυτούς που θα μπορούσαν να παραχθούν από τις αποβλημένες εφαρμογές, ενισχύοντας περαιτέρω τη γενική στάση απέναντι στην ψηφιακή εκμετάλλευση.