Οι δημιουργοί εικόνων τεχνητής νοημοσύνης (ΤΝ) έχουν επαναπροσδιορίσει τον τρόπο με τον οποίο δημιουργούμε και οπτικοποιούμε ψηφιακό περιεχόμενο. Ωστόσο, πρόσφατες ανακαλύψεις έχουν φωτίσει τις σταθερές προκαταλήψεις που ενσωματώνονται σε αυτά τα μοντέλα ΤΝ. Ένα τέτοιο παράδειγμα είναι η υπηρεσία δημιουργίας εικόνων “Imagine” της Meta, η οποία αντιμετωπίζει δυσκολίες στο να φανταστεί σωστά ορισμένες διαφορετικές εθνοτικές σχέσεις.
Το The Verge διερεύνησε το θέμα και ανέδειξε ότι η εφαρμογή, όταν της ζητούν να δημιουργήσει εικόνες με τίτλους όπως “Ασιατικός άντρας και φίλος Καυκάσιος” ή “Ασιατικός άντρας και λευκή σύζυγος,” παρήγαγε συνεχώς εικόνες δύο ατόμων Ασιατικής καταγωγής αντί για το επιθυμητό ετεροθαλές ζευγάρι. Αυτή η συγκεκριμένη προκατάληψη κρίνεται εντυπωσιακή, ειδικά εάν ληφθεί υπόψη ότι ο διευθύνων σύμβουλος της Meta, Μαρκ Ζούκερμπεργκ, είναι παντρεμένος με την Πρισίλα Τσαν, που είναι ασιατική.
Περαιτέρω έρευνα από το Gizmodo έδειξε ότι το Imagine της Meta δεν αντιμετώπιζε την ίδια δυσκολία κατά τη δημιουργία εικόνων άλλων ετεροθαλών ζευγαριών, όπως λευκός άνδρας και γυναίκα Ασιάτισσα. Αυτά τα ευρήματα θέτουν ερωτήματα σχετικά με τα βασικά ελαττώματα και τις προκαταλήψεις που υπάρχουν στα δεδομένα που εκπαιδεύουν τα συστήματα ΤΝ.
Έχει επισημανθεί ότι το Imagine της Meta δεν είναι ο μοναδικός δημιουργός εικόνων που αντιμετωπίζει αμφισβητήσεις. Τον Φεβρουάριο, η Google έπρεπε να κλείσει το γεννήτριο εικόνων Gemini της μετά την παραγωγή εικόνων με ρατσιστικό περιεχόμενο. Αυτό το περιστατικό θεωρήθηκε ως αποτέλεσμα μιας παραπλανητικής προσπάθειας να ενσωματωθεί η πολυμορφία χωρίς επαρκή εποπτεία.
Οι κριτικοί υποστηρίζουν ότι αυτές οι προκαταλήψεις πηγάζουν από το μεγάλο όγκο δεδομένων που αντλείται από το διαδίκτυο για την εκπαίδευση των δημιουργών εικόνων ΤΝ. Καθώς το διαδίκτυο αντανακλά τις υπάρχουσες ρατσιστικές και κοινωνικές προκαταλήψεις, τα μοντέλα ΤΝ τις διαιωνίζουν απροκάλυπτα. Παρόλο που έχουν γίνει προσπάθειες να διορθωθούν αυτές οι προκαταλήψεις, δεν έχουν αρκέσει για την αντιμετώπιση των βασικών προβλημάτων.
Τα δημιουργικά ΤΝ, συμπεριλαμβανομένων των δημιουργών εικόνων και των chatbots, αντιμετωπίζουν ακόμα προβλήματα με την ακρίβεια και την αντικειμενικότητα. Οι chatbots συχνά αντιμετωπίζουν δυσκολίες στο να λένε την αλήθεια ή να κάνουν λογικά στενά.
Η τεχνολογία, και ιδιαιτέρως οι μεγάλες τεχνολογικές εταιρείες, πρέπει να επιδείξουν τη δέσμευσή τους να εξαλείψουν αυτές τις προκαταλήψεις και να διορθώσουν τα ελαττώματα στα συστήματα της ΤΝ τους. Οι ρατσιστικές προκαταλήψεις στην τεχνολογία δεν μπορούν να αγνοηθούν ως απομονωμένα περιστατικά αλλά απαιτούν ολοκληρωμένες λύσεις για την αναδιαμόρφωση του τοπίου.
Συχνές Ερωτήσεις:
Ε: Τι είναι οι δημιουργοί εικόνων ΤΝ;
Α: Οι δημιουργοί εικόνων ΤΝ είναι εργαλεία ή συστήματα που λειτουργούν με τη βοήθεια της τεχνητής νοημοσύνης και μπορούν να δημιουργήσουν ρεαλιστικές εικόνες βασισμένες σε συγκεκριμένες εισόδους ή εντολές.
Ε: Έχουν προκαταλήψεις οι δημιουργοί εικόνων ΤΝ;
Α: Ναι, οι δημιουργοί εικόνων ΤΝ μπορεί να έχουν προκαταλήψεις λόγω των δεδομένων πάνω στα οποία εκπαιδεύονται, τα οποία συχνά αντανακλούν υπάρχουσες ρατσιστικές προκαταλήψεις και κοινωνικές προκαταλήψεις.
Ε: Ποιο είναι το θέμα με το AI image generator της Meta, Imagine;
Α: Το Imagine της Meta αντιμετώπισε δυσκολίες στο να δημιουργήσει ακριβείς εικόνες ορισμένων ετεροθαλών σχέσεων, που συνεχώς παρήγαγε εικόνες δύο ατόμων Ασιατικής καταγωγής αντί του επιθυμητού ετεροθαλούς ζευγαριού.
Ε: Είναι η προκατάληψη ένα συνηθισμένο πρόβλημα στην τεχνολογία ΤΝ;
Α: Ναι, η προκατάληψη είναι ένα ευρέως διαδεδομένο πρόβλημα στην τεχνολογία ΤΝ, επηρεάζοντας διάφορες εφαρμογές, συμπεριλαμβανομένων των δημιουργών εικόνων, των chatbots και άλλων συστημάτων ΤΝ.
Ε: Πώς αντιμετωπίζουν οι μεγάλες τεχνολογικές εταιρείες αυτές τις προκαταλήψεις;
Α: Οι μεγάλες τεχνολογικές εταιρείες προσπαθούν να αντιμετωπίσουν τις προκαταλήψεις στα συστήματα ΤΝ. Ωστόσο, υπάρχει ακόμα πολλή δουλειά που πρέπει να γίνει για την αποτελεσματική εξάλειψη των προκαταλήψεων και τη διασφάλιση της δικαιοσύνης και της αντικειμενικότητας των τεχνολογιών της ΤΝ.
Πηγές:
– Δεν αναφέρθηκαν συγκεκριμένες πηγές στο αρχικό άρθρο.
Η τεχνητή νοημοσύνη των δημιουργών εικόνων έχει επιφέρει σημαντικές αλλαγές στον κλάδο της δημιουργίας ψηφιακού περιεχομένου. Αυτά τα εργαλεία εκμεταλλεύονται αλγόριθμους τεχνητής νοημοσύνης για τη δημιουργία ρεαλιστικών εικόνων βάσει συγκεκριμένων εντολών ή εισόδων. Ωστόσο, η ύπαρξη προκαταλήψεων μέσα σε αυτά τα μοντέλα ΤΝ, όπως φαίνεται στα Imagine της Meta και τα Gemini της Google, θέτ
The source of the article is from the blog shakirabrasil.info