Μια εταιρεία εκκίνησης AI με το όνομα ElevenLabs πήρε την απαραίτητη δράση να αποκλείσει έναν χρήστη που δημιούργησε ένα voice deepfake του Joe Biden σε μια προσπάθεια να αναταράξει τις εκλογές, όπως αναφέρει το Bloomberg. Το deepfake, που εμψύχωσε τον πρόεδρο, χρησιμοποιήθηκε σε ένα robocall που ενθάρρυνε τους ψηφοφόρους στο Νιου Χάμσαϊρ να μη συμμετέχουν στις πρώτες εκλογές τους στην πολιτεία τους. Αρχικά ήταν ασαφές πώς η τεχνολογία μιμήθηκε τη φωνή του Biden, αλλά μια εταιρεία ασφαλείας με το όνομα Pindrop πραγματοποίησε μια εμπεριστατωμένη ανάλυση και επιβεβαίωσε με επιτυχία ότι χρησιμοποιήθηκαν εργαλεία της ElevenLabs.
Αντί να χρησιμοποιήσει αυτούσιες φράσεις από το αρχικό άρθρο, μπορεί να εξηγηθεί ότι η Pindrop αφαίρεσε παρεμβολές ήχου και βελτίωσε τον ήχο του robocall πριν το συγκρίνει με δείγματα από πολλές τεχνολογίες σύνθεσης φωνής που συνδέονται με deepfakes. Ο CEO της Pindrop, Vijay Balasubramaniyan, δήλωσε ότι η ανάλυση επιβεβαίωσε με βεβαιότητα που υπερβαίνει το 99 τοις εκατό τη χρήση των εργαλείων της ElevenLabs. Το Bloomberg πρόσθεσε ότι ενώ η εταιρεία ερευνά το θέμα μετά την ενημέρωση για τα ευρήματα της Pindrop, έχει ήδη εντοπίσει και αναστείλει τον υπεύθυνο λογαριασμό.
Η περιπτωση που αφορά το deepfake robocall του Biden υπογραμμίζει τη δυνατότητα επιρροής των τεχνολογιών που μπορούν να μιμηθούν τη φωνή και την εμφάνιση ενός ανθρώπου, ιδίως όσον αφορά την παραπληροφόρηση των ψηφοφόρων και τις επιθέσεις στους εκλογικούς λειτουργούς κατά τις επερχόμενες προεδρικές εκλογές στις Ηνωμένες Πολιτείες. Η Kathleen Carley, καθηγήτρια στο Πανεπιστήμιο Carnegie Mellon, εξέφρασε την ανησυχία της για αυτό το θέμα στο The Hill, δηλώνοντας ότι αυτό αποτελεί ένδειξη για αυτό που πρέπει να αναμένουμε τους επόμενους μήνες όσον αφορά την καταπίεση των ψηφοφόρων και τις επιθέσεις σε υπαλλήλους των εκλογών.
Ενδιαφέρον παρουσιάζει το γεγονός ότι μόλις λίγες μέρες μετά την κυκλοφορία της beta έκδοσης της πλατφόρμας της ElevenLabs, οι άνθρωποι εκμεταλλεύτηκαν την τεχνολογία για να δημιουργήσουν ηχητικά αποσπάσματα που μιμούνται διάσημους να λένε αμφιλεγόμενα πράγματα. Ενώ η εταιρεία ενθαρρύνει τη χρήση της τεχνολογίας για την πολιτισμική και πολιτική ομιλία που συμβάλλει στο δημόσιο διάλογο, προειδοποιεί τους χρήστες για τη συμμετοχή σε καταχρηστικούς σκοπούς που παραβιάζουν το νόμο, όπως η απάτη, η διακριτική μεταχείριση ή ο μισαλλόδοξος λόγος. Ωστόσο, αυτή η περίπτωση υπογραμμίζει την ανάγκη για την επιβολή πρόσθετων μέτρων προστασίας από την ElevenLabs για την αποτροπή κακόβουλων δραστών από τον χειρισμό των εκλογών παγκοσμίως.
Σημείωση: Αυτό το άρθρο μπορεί να περιέχει συνδέσμους με θυγατρικά. Εάν κάνετε κλικ σε έναν τέτοιο σύνδεσμο και πραγματοποιήσετε αγορά, ενδέχεται να εμείς να κερδίσουμε προμήθεια.
Συχνές ερωτήσεις:
1. Τι είναι η ElevenLabs;
Η ElevenLabs είναι μια εταιρεία εκκίνησης που έχει αναπτύξει εργαλεία για την τεχνολογία σύνθεσης φωνής.
2. Γιατί απέκλεισε η ElevenLabs έναν χρήστη;
Η ElevenLabs απέκλεισε έναν χρήστη που δημιούργησε ένα voice deepfake του Joe Biden σε μια προσπάθεια να αναταράξει τις εκλογές.
3. Πώς χρησιμοποιήθηκε το deepfake του Joe Biden;
Το deepfake χρησιμοποιήθηκε σε ένα robocall που ενθάρρυνε τους ψηφοφόρους στο Νιου Χάμσαϊρ να μη συμμετέχουν στις πρώτες εκλογές τους στην πολιτεία τους.
4. Πώς καθορίστηκε ότι χρησιμοποιήθηκαν τα εργαλεία της ElevenLabs;
Η εταιρεία ασφαλείας Pindrop πραγματοποίησε μια εμπεριστατωμένη ανάλυση και επιβεβαίωσε με βεβαιότητα που υπερβαίνει το 99 τοις εκατό ότι χρησιμοποιήθηκαν τα εργαλεία της ElevenLabs.
5. Ποιες είναι οι ανησυχίες όσον αφορά την τεχνολογία deepfake και τις εκλογές;
Η περίπτωση του deepfake robocall του Biden υπογραμμίζει την πιθανή επίδραση των τεχνολογιών που μπορούν να μιμηθούν τη φωνή και την εμφάνιση ενός ανθρώπου στην καταπίεση των ψηφοφόρων και στις επιθέσεις στους εκλογικο
The source of the article is from the blog mendozaextremo.com.ar