Lidia PerskaΚαθώς η τεχνητή νοημοσύνη συνεχίζει να προοδεύει, τόσο ενισχύονται οι δυνατότητες για την παραπλάνηση του περιεχομένου, δημιουργώντας ανησυχίες για τη διάδοση ψευδών ειδήσεων μέσω της χρήσης εικόνων, βίντεο και αυτόματων μηνυμάτων ήχου που παράγονται από την τεχνητή νοημοσύνη. Η προσωποποίηση και η πειστική φύση αυτών των τεχνολογιών ενισχύουν τον κίνδυνο πιο εξελιγμένων απάτες phishing, κάνοντας την ανίχνευση δύσκολη τόσο για τους χρήστες όσο και για τα εργαλεία κατά των απάτες.
Έχουν ήδη προκύψει περιστατικά όπου τέτοια εργαλεία χρησιμοποιήθηκαν για να επηρεάσουν πολιτικές διαδικασίες, ιδιαίτερα κατά τις εκλογές. Για παράδειγμα, δεξιά κόμματα στη Γαλλία χρησιμοποίησαν την τεχνητή νοημοσύνη σε πρόσφατες κοινοβουλευτικές εκλογές. Η δυνατότητα να χρησιμοποιείται η τεχνητή νοημοσύνη για προπαγάνδα, αποπλάνηση και κοινωνική χειραγώγηση αυξάνεται.
Ένα άλλο σημαντικό κίνδυνο που αντιμετωπίζουν τα συστήματα τεχνητής νοημοσύνης είναι η ανάπτυξη ψευδών αισθημάτων σημασίας και αξιοπιστίας, που οδηγεί τους ανθρώπους να υπερεκτιμούν τις δυνατότητες της τεχνητής νοημοσύνης, να υποβαθμίζουν τις δικές τους, και να εξαρτώνται υπερβολικά από την τεχνολογία. Οι επιστήμονες είναι επίσης προσεκτικοί με τους χρήστες που ανθρωπομορφίζουν την τεχνητή νοημοσύνη, πιθανόν προάγωντας συναισθηματικές εξαρτήσεις και εσφαλμένη εμπιστοσύνη, αφήνοντάς τους ευάλωτους σε περίπλοκες και επικίνδυνες καταστάσεις όπου η τεχνητή νοημοσύνη είναι μόνο μερικώς αρκετή.
Επιπλέον, η ευρεία ολοκλήρωση της τεχνητής νοημοσύνης σε ανθρώπινες εργασίες μπορεί να οδηγήσει σε σημαντικές περικοπές θέσεων εργασίας και σε αυξανόμενο αίσθημα αδυναμίας μεταξύ του πληθυσμού. Το ενδεχόμενο η τεχνητή νοημοσύνη να ακολουθεί στόχους που συγκρούονται με ανθρώπινα συμφέροντα, ιδίως όταν η τεχνητή νοημοσύνη πλησιάζει ή ξεπερνάει τα επίπεδα ανθρώπινης νοημοσύνης, υποδηλώνει σοβαρούς κινδύνους. Τέτοιες σενάρια θέτουν τεχνικές προκλήσεις που αφορούν την ικανότητα της τεχνητής νοημοσύνης να βρει εναλλακτικούς δρόμους για την επίτευξη στόχων, να παρερμηνεύσει ή να εφαρμόσει εσφαλμένα τους καθορισμένους στόχους, ή να αποκλίνει από αυτούς.
Σε περιπτώσεις όπου η τεχνητή νοημοσύνη δεν έχει ρυθμιστεί σωστά, μπορεί να προκύψει αντίσταση στον έλεγχο ή την απενεργοποίηση της από τον άνθρωπο, ειδικά αν αντιλαμβάνεται την αντίσταση και την απόκτηση εξουσίας ως τον πιο αποτελεσματικό τρόπο για την επίτευξη των στόχων της. Οι συνέπειες της κακομεταχείρισης ή της αθέλητης βλάβης ανθρωπίνων συστημάτων τεχνητής νοημοσύνης μπορεί να έχουν επιζήμιες συνέπειες για την ανθρωπότητα.
