Η κορυφαία επιχείρηση στον τομέα της τεχνητής νοημοσύνης, OpenAI, ξεκίνησε μια συζήτηση σχετικά με τη δυνητική δημιουργία περιεχομένου για ενήλικους χρησιμοποιώντας την τεχνολογία της τεχνητής νοημοσύνης, η οποία γνωρίζεται για τα προηγμένα μοντέλα γλώσσας της, όπως το ChatGPT, ο δημιουργός εικόνων DALL-E και ο πιο αποκλειστικός γεννήτορας βίντεο Sora. Αυτές οι πλατφόρμες έχουν συνήθως περιορίσει τη δυνατότητα των χρηστών να δημιουργήσουν περιεχόμενο που θεωρείται μη ασφαλές για τον εργασιακό χώρο (NSFW), συμπεριλαμβανομένων των πεδίων της ερωτικής λογοτεχνίας και του πορνογραφικού υλικού.
Η οργάνωση έχει δημοσιεύσει ένα έγγραφο ζητώντας ανατροφοδότηση σχετικά με τις πολιτικές ασφαλείας της AI, δηλώνοντας ότι εξετάζει την υπεύθυνη δημιουργία περιεχομένου NSFW. Αυτός ο όρος καλύπτει συνήθως υλικό που δεν είναι κατάλληλο για ένα εργασιακό περιβάλλον, περιλαμβάνοντας ερωτικό, βίαιο ή σαφώς ακατάλληλο περιεχόμενο.
Σε μια συνομιλία με το NPR, η ηγέτιδα προϊόντος της OpenAI, Joanne Jang, μετέφερε την πρόθεση της εταιρείας να ξεκινήσει διάλογο για την ανάγκη διατήρησης απαγόρευσης στις ερωτικές λογοτεχνίες και τις εικόνες που περιέχουν γυμνότητα. Η OpenAI υπονοεί ότι υπάρχουν πιθανές περιπτώσεις όπου τέτοιο περιεχόμενο θα μπορούσε να είναι σημαντικό για τους χρήστες.
Η OpenAI δεσμεύεται να λαμβάνει υπόψη την ηλικία των χρηστών στην αναθεώρησή της και αποκλείει αποφασιστικά το ενδεχόμενο να εξουσιοδοτήσει βαθιά ψεύδαινα βίντεο που εκμεταλλεύονται την πραγματική ομοιότητα ατόμων. Τα τελευταία χρόνια, αυτός ο τύπος τεχνολογίας έχει οδηγήσει σε κατάχρηση, συμπεριλαμβανομένης της παραγωγής πορνογραφικού περιεχομένου με διάσημους και θα μπορούσε εύκολα να χρησιμοποιηθεί για εκφοβισμό ή παρενόχληση σε άλλα πλαίσια.
Επιπλέον, η Jang υπογραμμίζει ότι η διερεύνηση αυτού του ζητήματος δεν σημαίνει ότι η OpenAI εξετάζει τη δημιουργία AI-παραγόμενων πορνογραφικών περιεχομένων. Το αποτέλεσμα αυτής της έρευνας είναι πιθανό να εξαρτηθεί σημαντικά από την ανατροφοδότηση που θα λάβει η OpenAI στο δημοσιευμένο έγγραφο και εάν μπορέσει να καθιερώσει οδηγίες που εμποδίζουν την κατάχρηση και διασφαλίζουν την ευθύνη.
Σημαντικές ερωτήσεις, προκλήσεις και αντιθέσεις:
– Πώς θα διασφαλίσει η OpenAI ότι οποιαδήποτε περιεχόμενο NSFW που δημιουργείται από την AI είναι ηθικό και με τη συγκατάθεση του ενήλικα; Η κύρια πρόκληση είναι η θέσπιση σαφών οδηγιών που ορίζουν τα ηθικά όρια και τη συγκατάθεση. Αυτό είναι σημαντικό επειδή τα τρέχοντα μοντέλα AI δεν έχουν την ικανότητα να διακρίνουν τη συγκατάθεση και μπορούν ενδεχομένως να δημιουργήσουν εικόνες ή να γράψουν κείμενα βασισμένα σε δημόσια πρόσωπα ή άτομα που δεν έχουν δώσει τη συγκατάθεσή τους.
– Ποιοι μηχανισμοί θα θεσπίσει η OpenAI για την αποτροπή της δημιουργίας παράνομου ή επιβλαβούς περιεχομένου από την AI; Η OpenAI πρέπει να εφαρμόσει αποτελεσματικές στρατηγικές και τεχνολογίες ελέγχου περιεχομένου για να αποτρέψει τη διάδοση παράνομου υλικού, όπως παιδική πορνογραφία, εικόνες χωρίς συγκατάθεση ή περιεχόμενο που προωθεί τη βία.
– Πώς μπορούν να αντιμετωπιστούν οι πιθανές προκαταλήψεις στο AI-δημιουργημένο περιεχόμενο για ενήλικες; Τα συστήματα AI μπορούν να διαιωνίζουν κοινωνικές προκαταλήψεις που υπάρχουν στα δεδομένα εκπαίδευσής τους. Υπάρχει κίνδυνος το AI-δημιουργημένο περιεχόμενο για ενήλικες να ενισχύσει αρνητικά στερεότυπα ή αδικαιολόγητες απεικονίσεις φύλου, φυλής και σεξουαλικότητας.
– Μπορεί το AI-δημιουργημένο περιεχόμενο για ενήλικες να συμβάλει σε κοινωνικά προβλήματα όπως η αντικειμενοποίηση ατόμων; Υπάρχει μια συνεχής συζήτηση για τις κοινωνικές επιπτώσεις του περιεχομένου για ενήλικες, και ο ρόλος που μπορεί να διαδραματίσει η τεχνητή νοημοσύνη στην ενίσχυσή του είναι αμφιλεγόμενος.
Πλεονεκτήματα:
– Το περιεχόμενο που δημιουργείται από την AI μπορεί να προσφέρει δυνητικά μια ασφαλέστερη εναλλακτική λύση στην ανθρώπινη πορνογραφία μειώνοντας την εκμετάλλευση που σχετίζεται με την βιομηχανία του ενηλικιωμένου ψυχαγωγίας.
– Για συναινούντες ενήλικες, μπορεί να εξυπηρετήσει διάφορες φαντασιώσεις με έναν τρόπο που δεν περιλαμβάνει πραγματικά άτομα, αυξάνοντας έτσι πιθανώς την ιδιωτικότητα και την συναίνεση στην κατανάλωση ενηλικιωμένου περιεχομένου.
Μειονεκτήματα:
– Υπάρχει η πιθανότητα ότι το περιεχόμενο που δημιουργείται από την AI μπορεί να θολώσει τα όρια της συγκατάθεσης και να οδηγήσει στη διάθεση υψηλά εξατομικευμένου περιεχομένου χωρίς συγκατάθεση.
– Η χρήση της τεχνητής νοημοσύνης σε αυτό τον τομέα μπορεί επίσης να οδηγήσει στην κανονικοποίηση ακραίων ή απαράδεκτων σεξουαλικών συμπεριφορών, με αποτέλεσμα να παραμορφώσει τις αντιλήψεις για την οικειότητα και τη συγκατάθεση σε σχέσεις στον πραγματικό κόσμο.
Προτεινόμενοι σχετικοί σύν
The source of the article is from the blog anexartiti.gr