Καθώς πλησιάζει η εκλογική περίοδος στην Ινδία, ανησυχίες σχετικά με την επίδραση των τεχνητής νοημοσύνης (AI) στα deepfakes στις πολιτικές εκστρατείες έχουν αρχίσει να αυξάνονται. Τα deepfakes, τα οποία είναι συνθετικές και ρεαλιστικές εικόνες και βίντεο, έχουν γίνει πιο ευρέως διαδεδομένα και εξελιγμένα τα τελευταία χρόνια. Μπορούν να διαστρεβλώσουν τα λόγια και την εμφάνιση των πολιτικών, δημιουργώντας αμφιβολίες και μη εμπιστία μεταξύ των ψηφοφόρων.
Με τη διαθεσιμότητα φθηνών δεδομένων κινητής τηλεφωνίας και υψηλή διείσδυση έξυπνων τηλεφώνων στην Ινδία, υπάρχουν φόβοι ότι τα deepfakes θα μπορούσαν να διαδοθούν μέσω πλατφόρμων όπως το WhatsApp, επηρεάζοντας τις αποφάσεις των ψηφοφόρων ή κάνοντάς τους να αμφισβητήσουν τη σημαντικότητα των ψήφων τους.
Το Ινδικό Υπουργείο Ηλεκτρονικής και Πληροφορικής πρόσφατα εξέδωσε ένα σύσταση προς τις εταιρείες που δραστηριοποιούνται στη γεννητική τεχνητή νοημοσύνη. Η σύσταση αναφέρει ότι εάν αυτές οι εταιρείες προσφέρουν συστήματα AI που εξακολουθούν να είναι υπό δοκιμή ή αναξιόπιστα, πρέπει να λάβουν ρητή άδεια από την κυβέρνηση και να επισημαίνουν ανάλογα τα αποτελέσματα. Ο στόχος είναι να αποτραπεί η δημιουργία παράνομου ή παραπλανητικού περιεχομένου που μπορεί να υπονομεύσει την εκλογική διαδικασία.
Ωστόσο, αυτή η σύσταση αντιμετωπίζει σκληρή αντίδραση τόσο από εθνικούς όσο και από διεθνείς παίκτες της AI. Πολλοί υποστηρίζουν ότι εμποδίζει την καινοτομία και την ελευθερία έκφρασης. Ο Υπουργός Κράτους για την Ηλεκτρονική και την Τεχνολογία, Rajeev Chandrasekhar, διευκρίνισε ότι η σύσταση δεν ισχύει για τις εταιρείες start-up, κάτι που παρείχε κάποια ανακούφιση. Παρ’ όλα αυτά, οι ανησυχίες για την κατάχρηση της τεχνολογίας της AI παραμένουν.
Αντιδρώντας σε αυτές τις ανησυχίες, ο Σέντιλ Ναγκάμ, ιδρυτής της start-up Muonium AI, δημιούργησε ένα ‘Μανιφέστο για ηθικής AI Συνάσπιση’ ενόψει των εκλογών. Αυτό το μανιφέστο στοχεύει στο να διασφαλίσει ότι οι τεχνολογίες AI χρησιμοποιούνται με ευθύνη και δεν διαστρεβλώνουν εκλογές, εξαπλώνουν παραπληροφορίες ή υπονομεύουν την εμπιστοσύνη του κοινού στα πολιτικά ιδρύματα. Ο Ναγκάμ έχει επικοινωνήσει με περίπου 30 εταιρείες, εκ των οποίων δύο έχουν ήδη υπογράψει το μανιφέστο και τρεις είναι στη διαδικασία υπογραφής.
Όχι όλες οι δημιουργίες της AI είναι κακόβουλα deepfakes που σκοπό έχουν να συκοφαντήσουν αντιπάλους. Ορισμένες εφαρμογές, όπως οι εξατομικευμένες διαδραστικές τηλεφωνικές κλήσεις, λειτουργούν ως καινοτομίες παρά ως απειλές για την εκλογική ακεραιότητα. Για παράδειγμα, πολιτικά κόμματα στην Ινδία έχουν χρησιμοποιήσει συνθετικές φωνές για να στείλουν προγραμματισμένα μηνύματα που απευθύνονται σε μεμονωμένους ψηφοφόρους με το όνομά τους. Αν και αυτές οι εφαρμογές μπορεί να φαίνονται ανώδυνες, είναι σημαντικό να ληφθεί υπόψη το δυνητικό για κατάχρηση.
Ο Διβιέντρα Σινγκ Τζαντούν, ένας δημιουργός της AI γνωστός ως ο Ινδός Deepfaker, έχει εκπαιδεύσει μοντέλα AI φωνής και βίντεο για τη διανομή εξατομικευμένων μηνυμάτων για πολιτικά κόμματα. Δηλώνει ότι εργάζεται σε “ηθικές” δημιουργίες της AI, όπως εξουσιοδοτημένες μεταφράσεις και αναβιώσεις νεκρών ηγετών, με την έγκριση του κόμματος. Ωστόσο, αναγνωρίζει ότι καθώς η τεχνολογία deepfake γίνεται πιο προσβάσιμη, τα κόμματα παράγουν ό足ες deepfakes, κάνοντας ευκολότερη τη διάδοση της παραπληροφορίας.
Ειδικοί στον τομέα, όπως η Κάρεν Ρεμπέλο από την ιστοσελίδα ελέγχου γεγονότων BOOM, έχουν παρατηρήσει μια σημαντική αύξηση των deepfakes της AI κατά τις πρόσφατες εκλογές στην Ινδία. Η τεχνολογία έχει γίνει πιο φθηνή και πιο προσβάσιμη, επιτρέποντας σε οποιονδήποτε με ένα φορητό υπολογιστή να δημιουργήσει deepfakes. Αυτό θέτει θέματα σχετικά με την πιθανή επίδραση των deepfakes στη δικαιότητα και διαφάνεια των εκλογών.
Ενώ οι deepfakes της AI είναι αντικείμενο ανησυχίας, έχουν επίσης το δυναμικό να χρησιμοποιούνται για το καλό. Οι τεχνολογίες της AI μπορούν να διαδραματίσουν ένα θετικό ρόλο στη βελτίωση της δημοκρατικής διαδικασίας, όπως η βελτίωση της προσβασιμότητας για τους αναπήρους ψηφοφόρους ή η παροχή ακριβών μεταφράσεων πολιτικών λόγων. Το μυστικό βρίσκεται στο να εξασφαλιστεί ότι αυτές οι τεχνολογίες χρησιμοποιούνται με ηθικό τρόπο και με ευθύνη.
Καθώς η Ινδία προετοιμάζεται για τις επερχόμενες εκλογές, είναι ουσιώδες για την κυβέρνηση, τις εταιρείες AI και τα πολιτικά κόμματα να συνεργαστούν για την καθιέρωση σαφών οδηγιών και κανονισμών για τη χρήση της AI στις πολιτικές εκστρατείες. Μέσω της προτεραιότητας που δίνεται στη διαφάνεια, την ευθύνη και την ακεραιότητα της εκλογικής διαδικασίας, η Ινδία μπορεί να αξιοποιήσει το δυναμικό της AI ενώ αντιμετωπίζει τους κινδύνους που υπάρχουν.
Οι επιπτώσεις και οι ανησυχίες που σχετίζονται με τους deepfakes στις πολιτικές εκστρατ
