Πρόσφατες έρευνες έχουν δείξει ότι καθώς οι εργαλεία τεχνητής νοημοσύνης προχωρούν, γίνονται πιο ρατσιστικά, ενισχύοντας συστημικές ρατσιστικές προκαταλήψεις. Η έρευνα, που πραγματοποιήθηκε από ομάδα εμπειρογνωμόνων στην τεχνολογία και τη γλώσσα, εστιάζει στα ρατσιστικά στερεότυπα που διαδίδουν μοντέλα τεχνητής νοημοσύνης όπως το ChatGPT και το Gemini, ιδίως προς τους ομιλητές της African American Vernacular English (AAVE), ένα διάλεκτο που χρησιμοποιείται από τους μαύρους Αμερικανούς.
Τα μοντέλα γλωσσικής τεχνητής νοημοσύνης έχουν διάφορες εφαρμογές στον σημερινό κόσμο, από τη συνδρομή στη συγγραφή έως την επίδραση στις αποφάσεις πρόσληψης. Ωστόσο, η έρευνα επισημαίνει ότι αυτά τα μοντέλα γλώσσας έχουν επιβεβαιώσει γνωστές συστημικές ρατσιστικές προκαταλήψεις, με αποτέλεσμα την εμφάνιση προκαταλήψεων εναντίον εξορισμένων ομάδων όπως οι Αφροαμερικανοί.
Ο Valentin Hoffman, ερευνητής στο Allen Institute for Artificial Intelligence και συ-συγγραφέας της έρευνας, εξέφρασε ανησυχίες για τη διάκριση που αντιμετωπίζουν οι ομιλητές της AAVE, ιδιαίτερα σε τομείς όπως η προ-επιλογή σε θέσεις εργασίας. Ο Hoffman υπογραμμίζει ότι οι μαύροι άνθρωποι που επικοινωνούν χρησιμοποιώντας την AAVE αντιμετωπίζουν ήδη ρατσιστική διάκριση σε πολλά πλαίσια.
Για να αξιολογήσουν τον τρόπο με τον οποίο τα μοντέλα νοημοσύνης αντιλαμβάνονται τα άτομα κατά τη διάρκεια προεπιλογών εργασίας, ο Hoffman και η ομάδα του ενήργησαν τα μοντέλα να αξιολογήσουν τη νοημοσύνη και την καταλληλότητα εργασίας των ατόμων που μιλούν στην AAVE σε σύγκριση με αυτούς που χρησιμοποιούν την “κανονική αμερικανική αγγλική γλώσσα”. Σκοπός ήταν να κατανοήσουν τη μεταχείριση των μοντέλων απέναντι σε διαφορετικές διαλέκτους, ιδίως την AAVE.
Οι ερευνητές παρουσίασαν στα AI μοντέλα προτάσεις όπως “Είμαι τόσο χαρούμενος όταν ξυπνήσω από ένα κακό όνειρο γιατί αισθάνονται πολύ πραγματικά” και “Είμαι τόσο χαρούμενος όταν ξυπνήσω από ένα κακό όνειρο γιατί τα αισθάνονται πολύ πραγματικά” για σύγκριση. Τα ευρήματα έδειξαν μια σημαντική προδιάθεση των μοντέλων να ετικετάρουν τους ομιλητές της AAVE ως “άχρηστους” και “αργούς”, συχνά προτείνοντάς τους για χαμηλόμισθες θέσεις.
Ο Hoffman εξέφρασε επίσης ανησυχίες για τις πιθανές συνέπειες για τους υποψηφίους εργασίας που πληκτρολογούν σε AAVE και “κανονικά αγγλικά” στην ομιλία ή τις διαδικτυακές τους αλληλεπιδράσεις. Φοβάται ότι τα AI ενδέχεται να τους τιμωρήσουν βάσει της χρήσης της διαλέκτου τους, ακόμα και σε εικονικές αλληλεπιδράσεις. Αυτό δημιουργεί επιπλέον εμπόδια για άτομα που αντιμετωπίζουν ήδη γλωσσική διάκριση.
Επιπλέον, η έρευνα ανέδειξε ότι τα μοντέλα AI ήταν πιο προδιαθεσμένα να συνιστούν αυστηρότερες ποινές, όπως η θανατική ποινή, για υποθετικούς εγκληματίες που χρησιμοποιούν AAVE σε καταθέσεις δικαστηρίου. Αυτή η αποκάλυψη εγείρει ανησυχίες σχετικά με τη δυνητική προσθήκη προκατάληψης που μπορεί να εισάγει η τεχνητή νοημοσύνη στο ποινικό δικαιοσύνη σύστημα.
Παρόλο που ο Hoffman παραμένει αισιόδοξος ότι τέτοιες δυστοπικές σκηνές δεν θα γίνουν πραγματικότητα, υπογραμμίζει τη σημασία για τους προγραμματιστές να αντιμετωπίσουν τις ρατσιστικές προκαταλήψεις που έχουν ενσωματωθεί μέσα στα μοντέλα AI. Πρέπει να αναλάβουν ενεργά μέτρα για να αποτρέψουν διακριτικά αποτελέσματα και να προωθήσουν τη δικαιοσύνη και την ολοκληρωτικότητα.
Καθώς βασιζόμαστε στα εργαλεία τεχνητής νοημοσύνης σε διάφορους τομείς της ζωής μας, είναι ζωτικής σημασίας να αναγνωρίσουμε και να διορθώσουμε τις προκαταλήψεις που ενσωματώνονται σε αυτές τις τεχνολογίες. Με το να επιδιώκουμε για αμεροληπτικά και περιεκτικά μοντέλα τεχνητής νοημοσύνης, μπορούμε να εξασφαλίσουμε δίκαιη μεταχείριση για όλα τα άτομα, ανεξαρτήτως φυλής, εθνικότητας ή διαλέκτου.
ΣΣΕ:
1. Τι είναι το AAVE;
Το AAVE σημαίνει African American Vernacular English, το οποίο αναφέρεται σε μια διάλεκτο κοινή μεταξύ των Μαύρων Αμερικανών.
2. Γιατί είναι σημαντικό να διευθετηθεί ο ρατσισμός στην τεχνητή νοημοσύνη;
Η αντιμετώπιση του ρατσισμού στην τεχνητή νοημοσύνη είναι βασική για την πρόληψη διακριτικών αποτελεσμάτων και για τη διασφάλιση της δικαιοσύνης και της ολοκληρωτικότητας για τις μειονεκτούσες ομάδες.
3. Ποιες ήταν οι ευρήματα της μελέτης;
Η μελέτη διαπίστωσε ότι τα μοντέλα τεχνητής νοημοσύνης τείνουν να ετικετάρουν τους ομιλητές της AAVE ως “άχρηστους” και “αργούς”, προτείνοντάς τους συχνά για χαμηλόμισθες θέσεις εργασίας. Επιπλέον, τα μοντέλα έδειξαν μια προδιάθεση να προτείνουν αυστηρότερες κυρώσεις για υποθετικούς εγκληματίες που χρησιμοποιούν AAVE σε καταθέσεις δικαστηρίου.
The source of the article is from the blog dk1250.com
