Η OpenAI, μια κορυφαία εταιρεία τεχνητής νοημοσύνης, διανέμε χωρίς πρόσφατα την εξειδικευμένη ομάδα της που επικεντρώνεται στους μακροπρόθεσμους κινδύνους που σχετίζονται με την τεχνητή νοημοσύνη. Η ανησυχητική αυτή εξέλιξη έρχεται ένα χρόνο μετά τη δημιουργία της ομάδας, υπονοώντας αυξανόμενες ανησυχίες σχετικά με την κατεύθυνση που ακολουθεί η εταιρεία όσον αφορά την ασφάλεια και την ηθική της στάση έναντι της τεχνητής νοημοσύνης.
Η διάλυση οδήγησε στην ανάθεση των μελών της ομάδας σε διάφορες άλλες ομάδες μέσα στην εταιρεία. Αυτή η απότομη μετατόπιση της εστίασής της συνέβη λίγο μετά την παραίτηση των συνιδρυτών της OpenAI Ilya Sutskever και Jan LeCun, κάνοντας έμφαση στην ασυμβατότητα με την προτεραιότητα της εταιρείας στην ανάπτυξη προϊόντων πάνω από την κουλτούρα ασφάλειας και τις διαδικασίες.
Πέρυσι, η OpenAI είχε διαθέσει το 20% της υπολογιστικής ισχύος της για τέσσερα χρόνια στην τώρα διαλυμένη ομάδα Super-Alignment, η οποία είχε ως στόχο τη δημιουργία πιο έξυπνων μηχανισμών χειρισμού και ελέγχου των συστημάτων τεχνητής νοημοσύνης μέσω επιστημονικών και τεχνολογικών επιδράσεων. Η προοπτική ήταν να οδηγήσει την εταιρεία προς το να γίνει μια επιχείρηση AGI (Τεχνητή Γενική Νοημοσύνη) που θα ήταν κατά πρώτο λόγο ασφαλής, επικεντρώνοντας σημαντικό ποσοστό της διαθέσιμης εύρωστης ζώνης της στον τομέα της ασφάλειας, της εποπτείας, της προετοιμασίας, της ασφάλειας και των κοινωνικών επιπτώσεων.
Η παραίτηση του LeCun υπογραμμίζει μια ταραχώδη φάση για την OpenAI, που ακολούθησε στενά μια κρίση ηγεσίας που επηρέασε τον συνιδρυτή και διευθύνοντα σύμβουλο Sam Altman. Τον Νοέμβριο, ο Altman αντιμετώπισε κατηγορίες από το Διοικητικό Συμβούλιο της OpenAI για έλλειψη διαφάνειας στις επικοινωνίες, με αποτέλεσμα την πρόσκαιρη απόλυσή του. Λίγο μετά την επιστροφή του, μέλη του Δ.Σ. που ψήφισαν υπέρ της απομάκρυνσής του, συμπεριλαμβανομένων των Helen Toner, Tasha McCauley και Ilya Sutskever, παραιτήθηκαν από την εταιρεία.
Η διάλυση της ομάδας ασφαλείας της OpenAI υψώνει κρίσιμα ερωτήματα σχετικά με τη δέσμευση της εταιρείας στην ασφάλεια και την ηθική της ανάπτυξη προς το παρόν όπου η έντονη ανάπτυξη των τεχνολογιών τεχνητής νοημοσύνης είναι υπό αυξανόμενη εξέταση για πιθανούς κινδύνους. Αυτή η κίνηση είναι ιδιαίτερα συζητημένη διότι υπονοεί μια πιθανή μετατόπιση της εστίασης της OpenAI, από την αρχική της αποστολή προς το να διασφαλίζει ότι η ΓΝΤ (Γενική Νοημοσύνη Τεχνητής) ωφελεί όλη την ανθρωπότητα προς την προτεραιότητα προϊόντων και αγοραστικών στόχων.
Κύρια ερωτήματα που προκύπτουν είναι:
– Ποια θα είναι η επίδραση της διάλυσης της ομάδας ασφαλείας της τεχνητής νοημοσύνης στις μελλοντικές αναπτύξεις AI της OpenAI;
– Πώς θα επηρεάσει η αλλαγή την ευρύτερη κοινότητα σε σχέση με την επίδοση και την εμπιστοσύνη της OpenAI στη δέσμευσή της για μια ασφαλή και ηθική τεχνητή νοημοσύνη;
– Μπορεί να επιτευχθεί ισορροπία μεταξύ της γρήγορης ανάπτυξης της τεχνητής νοημοσύνης και της έρευνας ασφάλειας και, αν ναι, πώς;
Κύριες προκλήσεις και ταμπού:
– Διασφάλιση της Ασφάλειας της Τεχνητής Νοημοσύνης: Η διασφάλιση του σωστού συμπεριφοράς της τεχνητής νοημοσύνης, ειδικά όσο οι συστήματα τεχνητής νοημοσύνης γίνονται πιο περίπλοκα, αποτελεί μια σημαντική τεχνική πρόκληση χωρίς μια αφιερωμένη ομάδα ασφάλειας.
– Ηθικές Μελέτες: Επικεντρωθείτε κυρίως στην ανάπτυξη προϊόντων μπορεί να οδηγήσει σε αποδυνάμωση των ηθικών σκέψεων, ενδεχομένως βλάπτοντας την εικόνα της εταιρείας στο κοινό και προκαλώντας αντιδράσεις από την κοινότητα της αιθικής της τεχνητής νοημοσύνης.
– Ασυμφωνία Συμφερόντων: Οι παραίτησεις των υψηλόβαθμων συνιδρυτών και μελών του Δ.Σ. μπορεί να υποδεικνύουν εσωτερικές διαφωνίες για την κατεύθυνση της εταιρείας – μια κατάσταση που μπορεί να επηρεάσει την κινητοποίηση των υπαλλήλων και την δημόσια εμπιστοσύνη.
– Ρυθμιστικοί Ύπνοι: Με την αυξανόμενη έκκληση για τη ρύθμιση της τεχνητής νοημοσύνης, η διάλυση μιας ομάδας με εστίαση στην ασφάλεια μπορεί να προκαλέσει ρυθμιστικό έλεγχο και κλήσεις για εξωτερική εποπτεία.
Πλεονεκτήματα και μειονεκτήματα της διάλυσης της ομάδας ασφαλείας της τεχνητής νοημοσύνης:
– Πλεονεκτήματα:
– Η ανακατεύθυνση των πόρων από την ομάδα ασφαλείας της τεχνητής νοημοσύνης σε άλλα μέρη της εταιρείας θα μπορούσε πιθανώς να επιταχύνει την ανάπτυξη προϊόντων και την εμπορικοποίηση.
– Η συγχώνευση μπορεί να βελτιώσει τις λειτουργίες και τις διαδικασίες λήψης αποφάσεων, που ίσως ωφελήσει την ευελιξία της εταιρείας σε έναν ανταγωνιστικό αγορά.
– Μειονεκτήματα:
– Η εταιρεία μπορεί να αντιληφθεί ως ότι μειώνει την προτεραιότητα στην μακροπρόθεσμη ασφάλεια υπέρ των μεσοπρόθεσμων κερδών, που θα μπορούσε να βλάψει τη φήμη της.
– Τα πιθανά ρίσκα που συνδέονται με τα συστήματα τεχ
The source of the article is from the blog reporterosdelsur.com.mx