Η εισαγωγή της Google ενός χαρακτηριστικού βασισμένου σε τεχνητή νοημοσύνη σχεδιασμένου για την αναγνώριση απάτες στις τηλεφωνικές κλήσεις έχει προκαλέσει συζήτηση μεταξύ υποστηρικτών της ιδιωτικότητας και της ασφάλειας. Το χαρακτηριστικό, που παρουσιάστηκε στο συνέδριο Google I/O, προορίζεται να ενσωματωθεί σε μελλοντικά συστήματα Android, επηρεάζοντας πιθανότατα τη συντριπτική πλειοψηφία των smartphones παγκοσμίως.
Λειτουργώντας στη συσκευή, η τεχνολογία τεχνητής νοημοσύνης της Google, Gemini Nano, αποτελεί ένα βήμα προς την σάρωση από την πλευρά του πελάτη, ένα επίμαχο θέμα στους τεχνολογικούς κύκλους. Ιστορικά, η αναφορά στη σάρωση από την πλευρά του πελάτη φέρνει στο μυαλό τη θερμή συζήτηση για τον εντοπισμό παιδικής εκμετάλλευσης και την παρακολούθηση συζητήσεων, η οποία ακόμη και οδήγησε στην απόσυρση ενός παρόμοιου σχεδίου από την Apple το 2021 λόγω αντιδράσεων για την ιδιωτικότητα.
Παρά τις ανησυχίες για την ιδιωτικότητα, υπάρχει πίεση από τους πολιτικούς για τις τεχνολογικές εταιρείες να εποπτεύουν προληπτικά τις πλατφόρμες τους για παράνομες δραστηριότητες. Αυτή η προσπάθεια προς την ενσωμάτωση της σάρωσης απευθείας στις συσκευές θα μπορούσε απρόθυμα να θεωρηθεί προηγούμενο για ευρεία παρακολούθηση περιεχομένου, συμπεριλαμβανομένης αυτής που ασκείται από κυβερνήσεις ή κινείται από εμπορικά συμφέροντα.
Κριτικοί, όπως η πρόεδρος της Signal, Meredith Whittaker, προειδοποιούν ότι η υλοποίηση τέτοιων τεχνολογιών θα μπορούσε να διευκολύνει τη μετάβαση σε επεμβατικές μορφές παρακολούθησης, προβλέποντας ένα μέλλον στο οποίο η λογοκρισία από την τεχνητή νοημοσύνη γίνεται συνηθισμένη. Υποδηλώνει μια προοπτική όπου τα δεδομένα περνούν μέσω των παροχέων υπηρεσιών μόνο αφού επιβεβαιώσουν ότι έχει γίνει μια σάρωση, προκαλώντας πιθανώς εμπόδια σε μη συμμορφούμενες συσκευές.
Ο Lukasz Olejnik, σύμβουλος σε θέματα ιδιωτικότητας και ασφάλειας, επαινεί την πάλη κατά των απάτες αλλά προειδοποιεί για τους κινδύνους επαναπροσαρμογής τέτοιων τεχνολογιών για κοινωνικές εξετάσεις. Ψιθυρίζει σκέψεις για την τεχνολογία να καθορίζει την κοινωνική συμπεριφορά και να παραβιάζει θεμελιώδεις ελευθερίες. Ο Michael Veale του UCL ενισχύει περαιτέρω αυτούς τους φόβους, υποδεικνύοντας πώς τέτοια τεχνολογία θα μπορούσε να χρησιμοποιηθεί για την εκμετάλλευση από κυβερνήσεις.
Καθώς η Ευρώπη αντιμετωπίζει επίμονες νομοθετικές προτάσεις σχετικά με τη σάρωση μηνυμάτων και το δικαίωμα στην ιδιωτικότητα, το νέο χαρακτηριστικό της Google δείχνει την ισορροπία που δεν έχει ακόμα επιτευχθεί μεταξύ της προαγωγής των δυνατοτήτων της τεχνολογίας και της προστασίας των δημοκρατικών ελευθεριών. Παράλληλα, η Google δεν έχει ακόμα αντιμετωπίσει επίσημα αυτές τις αυξανόμενες ανησυχίες για την ιδιωτικότητα.