Μια ομάδα ερευνητών από το Πανεπιστήμιο του Σικάγου έχει αναπτύξει το Nightshade 1.0, ένα κορυφαίο εργαλείο διαμορφωσης δεδομένων επίθεσης που δημιουργήθηκε για να αντιμετωπιστεί η μη εξουσιοδοτημένη χρήση μοντέλων μηχανικής μάθησης. Αυτό το εργαλείο συνεργάζεται με το Glaze, ένα εργαλείο άμυνας προστασίας που έχει προηγουμένως αναφερθεί από τον The Register.
Το Nightshade σχεδιάστηκε ειδικά για να επιθέτει αρχεία εικόνων και έχει ως στόχο να εξασφαλίσει απόλυτο σεβασμό στα δικαιώματα των δημιουργών περιεχομένου από τα μοντέλα μηχανικής μάθησης. Μέσω της διαμόρφωσης των δεδομένων εικόνας, το Nightshade δημιουργεί διαταραχές για τα μοντέλα που απορροφούν μη εξουσιοδοτημένο περιεχόμενο. Αυτό το εργαλείο ελαχιστοποιεί τις ορατές αλλαγές στην αρχική εικόνα στο ανθρώπινο μάτι ενώ μπερδεύει τα μοντέλα AI. Για παράδειγμα, μια εικόνα μπορεί να φαίνεται ως σκιασμένη εικόνα μιας αγελάδας σε πράσινο χωράφι για τους ανθρώπους, αλλά ένα μοντέλο AI μπορεί να την ερμηνεύσει ως μια τσάντα χαμηλά στο χόρτο.
Η ομάδα πίσω από το Nightshade περιλαμβάνει τους διδακτορικούς φοιτητές Shawn Shan, Wenxin Ding και Josephine Passananti, καθώς και τους καθηγητές Heather Zheng και Ben Zhao. Έχουν αναλύσει τις λεπτομέρειες του Nightshade σε ένα ερευνητικό άρθρο που δημοσιεύθηκε τον Οκτώβριο του 2023. Η τεχνική που χρησιμοποιείται στο Nightshade είναι μια επίθεση διαμόρφωσης που είναι εξαρτημένη από το προτρεπτικό, όπου οι εικόνες διαμορφώνονται εσκεμμένα για να μπλεχτούν οι γραντζούνες των αληθινών τους ετικετών κατά τη διάρκεια της εκπαίδευσης των μοντέλων.
Η εισαγωγή του Nightshade ανταποκρίνεται στην ανησυχία για τη μη εξουσιοδοτημένη συλλογή δεδομένων, που έχει οδηγήσει σε δικαστικές διαμάχες μεταξύ των δημιουργών περιεχομένου και των επιχειρήσεων τεχνητής νοημοσύνης. Οι ερευνητές υποστηρίζουν ότι το Nightshade μπορεί να αποτελέσει ένα ισχυρό εργαλείο για τους ιδιοκτήτες περιεχομένου για την προστασία της πνευματικής τους ιδιοκτησίας από εκπαιδευτές μοντέλων που αγνοούν τις πνευματικές και άλλες μορφές άδειας.
Είναι σημαντικό να σημειωθεί ότι το Nightshade έχει κάποιους περιορισμούς. Το λογισμικό μπορεί να οδηγήσει σε μικρές διαφορές από την αρχική εικόνα, ιδίως για έργα τέχνης με επίπεδα χρώματα και ομαλά φόντα. Επιπλέον, μελλοντικά μπορεί να αναπτυχθούν μεθόδοι αντιμετώπισης του Nightshade, αλλά οι ερευνητές πιστεύουν ότι μπορούν να προσαρμόσουν το λογισμικό τους αναλόγως.
Η ομάδα προτείνει στους καλλιτέχνες να χρησιμοποιούν επίσης το Glaze σε συνδυασμό με το Nightshade για να προστατεύουν τα οπτικά χαρακτηριστικά τους. Ενώ το Nightshade επικεντρώνεται στα δεδομένα εικόνας, το Glaze τροποποιεί τις εικόνες για να αποτρέψει τα μοντέλα να αντιγράφουν το οπτικό ύφος ενός καλλιτέχνη. Με την προστασία του περιεχομένου και του στυλ της δουλειάς τους, οι καλλιτέχνες μπορούν να διατηρήσουν τη φήμη τους και να αποθαρρύνουν τη μη εξουσιοδοτημένη αναπαραγωγή της καλλιτεχνικής τους ταυτότητας.
Παρόλο που το Nightshade και το Glaze απαιτούν αυτήν τη στιγμή ξεχωριστές λήψεις και εγκαταστάσεις, η ομάδα εργάζεται για την ανάπτυξη μιας συνδυασμένης έκδοσης για να διευκολύνει τη διαδικασία για τους δημιουργούς περιεχομένου.
FAQ Nightshade:
The source of the article is from the blog qhubo.com.ni