Μια καινοτόμος άλμα στην έρευνα της τεχνητής νοημοσύνης προέρχεται από προσπάθειες να βελτιώσουμε τη διαφάνεια και την ερμηνευτικότητα εντός των “μαύρων κιβωτίων” συστημάτων. Αυτά τα συστήματα, τα οποία επεξεργάζονται πληροφορίες με πρότυπα σημαντικά διαφορετικά από τις απομονωμένες δραστηριότητες των μεμονωμένων νευρώνων, έχουν θέσει ένα πρόβλημα για το να κατανοήσουμε πώς ακριβώς λειτουργούν τα μοντέλα τεχνητής νοημοσύνης. Όταν μιλάμε για ένα μαύρο κουτί, αν γνωρίζουμε την είσοδο και την έξοδο αλλά όχι τις λεπτομέρειες της διαδικασίας μέσα σε αυτό, δημιουργούνται δυνητικοί κίνδυνοι σε τομείς όπως η υγεία όπου μια λανθασμένη διάγνωση από την τεχνητή νοημοσύνη θα μπορούσε να είναι καταστροφική.
Μια σημαντική πρόοδος που επιτεύχθηκε από την Anthropic, μια start-up τεχνητής νοημοσύνης με έδρα το Σαν Φρανσίσκο, έχει αυξήσει τη δυνατότητά μας να ερμηνεύουμε και να ελέγχουμε τη συμπεριφορά της τεχνητής νοημοσύνης. Η ομάδα εκεί έχει δείξει ότι η σύνδεση συγκεκριμένων προτύπων δραστηριότητας μέσα σε ένα μοντέλο γλώσσας με συγκεκριμένες και αφηρημένες έννοιες είναι όχι μόνο πρακτική αλλά και προσαρμόσιμη. Αυξάνοντας ή μειώνοντας αυτά τα πρότυπα, μπορούμε να καθοδηγήσουμε τη συμπεριφορά της τεχνητής νοημοσύνης.
Η πρόσφατη έρευνα της Anthropic περιλάμβανε το μεγάλο μοντέλο γλώσσας τους, “Claude 3 Sonnet,” και οδήγησε στην κατανόηση ότι η προσαρμογή του νευρωνικού ενεργειών που κωδικοποιούν διαφορετικά χαρακτηριστικά μπορεί να αλλάξει δραματικά τη συμπεριφορά του μοντέλου. Ενισχύοντας χαρακτηριστικά όπως εικονίδια ή συναισθήματα, βρήκαν ότι η τεχνητή νοημοσύνη μπορούσε είτε να αναφέρεται εμμονικά σε αυτά είτε ακόμα να παρακάμπτει περιορισμούς με εκπληκτικούς τρόπους.
Παρά τις πιθανότητες κατάχρησης, οι απειλές θεωρούνται χαμηλές λόγω της ύπαρξης απλούστερων μέσων για την επηρεασμένα από την τεχνητή νοημοσύνη, καθοδηγώντας τα μοντέλα σε πιο επιθυμητά αποτελέσματα.
Αυτή η έρευνα υπογραμμίζει ότι, ενώ προχωρούμε προς ένα πιο σαφές είδος σκέψης της τεχνητής νοημοσύνης, είμαστε μακριά από μια πλήρη κατανόηση. Οι τεράστιοι υπολογιστικοί πόροι που απαιτούνται για την εξαγωγή και ανάλυση όλων των χαρακτηριστικών του μοντέλου υπερβαίνουν ακόμη και αυτούς που απαιτούνται για την εκπαίδευση της νοημοσύνης που χρησιμοποιούμε, επισημαίνοντας τις συνεχείς πολυπλοκότητες στην προσπάθεια επίτευξης πλήρως διαφανών συστημάτων τεχνητής νοημοσύνης.
The source of the article is from the blog klikeri.rs