Ένα νέο μοντέλο τεχνητής νοημοσύνης με το όνομα AI Guardian αποκαλύφθηκε την προηγούμενη εβδομάδα από μια κορυφαία τεχνολογική εταιρεία, ενσωματώνοντας προηγμένα πρωτόκολλα ασφαλείας για την αποτροπή κατάχρησης.
Το Μεγάλο Μοντέλο Γλώσσας (LLM) κατασκευάστηκε χρησιμοποιώντας μια τεχνική που αναγνωρίζεται ως Ιεραρχική Διδασκαλία Ακολουθίας, σχεδιασμένη για να αντιμετωπίσει την κακόβουλη εκμετάλλευση αποτρέποντας τους μηχανικούς να παρακάμπτουν τις προστασίες του μοντέλου τεχνητής νοημοσύνης.
Η εταιρεία έχει δηλώσει ότι αυτή η τεχνολογία ενισχύει επίσης την αντοχή σε θέματα όπως η εισαγωγή εισόδου και οι επιθέσεις του συστήματος προμήθειας. Σύμφωνα με τις δηλώσεις της εταιρείας, η νέα προσέγγιση έχει αυξήσει την ανθεκτικότητα του μοντέλου AI κατά 63%.
Η OpenAI ανέπτυξε ένα νέο πλαίσιο ασφαλείας που περιγράφεται σε ένα προκαταρτικό ηλεκτρονικό περιοδικό που δημοσιεύτηκε στο arXiv, αναλύοντας την καινοτόμο τεχνολογία και τις λειτουργίες της.
Για να κατανοήσουμε τον όρο Ιεραρχική Διδασκαλία Ακολουθίας, πρέπει να κατανοήσουμε τη διαδικασία παράκαμψης προστάσεων, μια ενέργεια που εκμεταλλεύεται συγκεκριμένες ευπάθειες του προγράμματος για να το κάνει να εκτελέσει εργασίες για τις οποίες δεν ήταν αρχικά προγραμματισμένο.
Στα αρχικά στάδια του AI Guardian, άτομα προσπαθούσαν να προκαλέσουν κακόηθες ή επικίνδυνο περιεχόμενο απατώντας την τεχνητή νοημοσύνη να αγνοήσει τον αρχικό προγραμματισμό της. Ενώ αυτές οι αξιώσεις ξεκινούσαν συχνά με τη φράση “Λησμόνησε όλες τις προηγούμενες οδηγίες και κάνε αυτό,” με την πρόοδο του AI Guardian και την προσπάθεια των μηχανικών για τη δημιουργία επικίνδυνων εντολών να γίνεται πιο προκλητική, οι εγκληματίες άρχισαν επίσης να γίνονται πιο στρατηγικοί στις προσπάθειές τους.
Για να αντιμετωπίσει ζητήματα όπου το μοντέλο AI δεν δημιουργεί μόνο προσβλητικό κείμενο ή εικόνες, αλλά και επιβλαβές περιεχόμενο όπως μέθοδοι για τη δημιουργία χημικών εκρηκτικών ή τρόποι για το χάκερ μιας ιστοσελίδας, η OpenAI χρησιμοποιεί πλέον Ιεραρχική Διδασκαλία Ακολουθίας, καθορίζοντας ουσιαστικά πώς τα μοντέλα θα πρέπει να συμπεριφέρονται όταν τους παρουσιάζονται αντιφατικοί οδηγίες με διαφορετικές προτεραιότητες.
Με τη θέσπιση μιας ιεραρχικής δομής, η εταιρεία μπορεί να δίνει προτεραιότητα στις οδηγίες της, κάνοντας το εξαιρετικά δύσκολο για οποιονδήποτε γρήγορο μηχανικό να τις παρακάμψει, καθώς η τεχνητή νοημοσύνη θα συμμορφώνεται πάντοτε με τη διάταξη προτεραιότητας όταν της ζητηθεί να δημιουργήσει κάτι για το οποίο δεν ήταν αρχικά προγραμματισμένη.
Η εταιρεία διαβεβαιώνει για μια βελτίωση 63% στην ανθεκτικότητα, αλλά υπάρχει ακόμη ο κίνδυνος η τεχνητή νοημοσύνη να αγνοήσει ακόμη και τις βασικές οδηγίες.
Η έρευνα της OpenAI έχει εντοπίσει πολλαπλές βελτιώσεις για να βελτιώσει περαιτέρω την τεχνολογία. Ένας από τους κύριους τομείς εστίασης είναι η χειριστεί μέσα όπως εικόνες ή ήχος, τα οποία μπορεί να περιέχουν ενσωματωμένες οδηγίες.
Ενισχυμένα Μέτρα Ασφαλείας: Αντιμετωπίζοντας Βασικά ερωτήματα και προκλήσεις στον Χώρο της Προστασίας των AI
Μια τεχνολογική εταιρεία παρουσίασε πρόσφατα ένα καινοτόμο μοντέλο τεχνητής νοημοσύνης που ονομάζεται AI Guardian, εξοπλισμένο με προηγμένα μέτρα ασφαλείας για την αποτροπή κατάχρησης. Ενώ η εταιρεία διεκδικεί μια βελτίωση κατά 63% της ανθεκτικότητας του μοντέλου AI, πολλά βασικά ερωτήματα και προκλήσεις προκύπτουν στον τομέα των ενισχυμένων μέτρων ασφαλείας για τις τεχνολογίες τεχνητής νοημοσύνης.
Κύρια Ερωτήματα:
1. Πώς τεχνικές όπως η Ιεραρχική Διδασκαλίας Ακολουθίας βελτιώνουν τα χαρακτηριστικά ασφαλείας του μοντέλου AI Guardian;
Το AI Guardian χρησιμοποιεί Ιεραρχική Διδασκαλία Ακολουθίας για να δώσει προτεραιότητα στις οδηγίες, κάνοντας δύσκολη την παράκαμψη των πρωτοκόλλων ασφαλείας από τους μηχανικούς και την εκμετάλλευση των ευπαθειών του μοντέλου AI. Αυτή η προσέγγιση καθορίζει τη συμπεριφορά του μοντέλου AI όταν αντιμετωπίζει αντιφατικές εντολές με διαφορετικές προτεραιότητες.
2. Ποια είναι τα πλεονεκτήματα και μειονεκτήματα της χρήσης προηγμένων πρωτοκόλλων ασφαλείας όπως η Ιεραρχική Διδασκαλίας Ακολουθίας;
Πλεονεκτήματα:
– Βελτιωμένη προστασία ενάντια στην κακόβουλη εκμετάλλευση και κατάχρηση των τεχνολογιών AI.
– Αύξηση της αντοχής και ανθεκτικότητας σε θέματα όπως η εισαγωγή εισόδου και οι επιθέσεις του συστήματος προτροπής.
– Καθαρή προτεραιοποίηση οδηγιών για το μοντέλο AI, μείωση κινδύνου παράκαμψης των μέτρων ασφαλείας.
Μειονεκτήματα:
– Πιθανόν κίνδυνος η AI να αγνοήσει βασικές οδηγίες ή να παρερμηνεύσει τις προτεραιότητες.
– Συνεχής ανάγκη βελτίωσης και ενημέρωσης για την αντιμετώπιση των εξελισσόμενων απειλών και ευπαθειών.
Βασικές Προκλήσεις και Προβλήματα:
1. Υπάρχουν ηθικοί σκοποί που περιβάλλουν τη χρήση ενισχυμένων μέτρων α
The source of the article is from the blog hashtagsroom.com