Ο λογισμικός προγραμματιστής Ίσαν Αναντ έχει φέρει την εθιστική χρήση φύλλων εργασίας σε ένα ολοκαίνουργιο επίπεδο ενσωματώνοντας το GPT-2, ένα μεγάλο μοντέλο γλώσσας, στο Microsoft Excel. Εντυπωσιακά, δημιούργησε ένα έργο που λειτουργεί άψογα, παρέχοντας πολύτιμες γνώσεις στη λειτουργία των μοντέλων γλώσσας και τη δυνατότητα πρόβλεψης του επόμενου τεκμηρίου της αρχιτεκτονικής του μετατροπέα.
Ο Αναντ υποστηρίζει με θάρρος ότι η κατανόηση της τεχνητής νοημοσύνης είναι τόσο απλή όσο η κατανόηση ενός φύλλου εργασίας, επιδεικνύοντας τεράστιες δυνατότητες αυτής της σύζευξης.
Το φύλλο εργασίας GPT-2 1,25GB είναι τώρα διαθέσιμο για λήψη στο GitHub, επιτρέποντας σε οποιονδήποτε να πειραματιστεί και να εξερευνήσει τις λειτουργίες του. Παρόλο που το GPT-2 δεν είναι η τελευταία έκδοση των μοντέλων γλώσσας, έχοντας κάνει νέα στην επικαιρότητα το 2019, εξακολουθεί να αποτελεί έναν πολύτιμο βαθμό κατανόησης των δυνατοτήτων αυτών των μοντέλων.
Ένα σημαντικό σημείο προς θύμηση είναι ότι ο σκοπός του GPT-2 δεν έχει σχεδιαστεί για συνομιλητικές αλληλεπιδράσεις μιας και προηγείται από την εποχή των μοντέλων βασισμένων σε συνομιλίες όπως το ChatGPT. Είναι σημαντικό να τονίσουμε ότι η υλοποίηση σε αυτό το έργο χρησιμοποιεί το μικρό μοντέλο GPT-2, το οποίο αποτελείται από 124 εκατομμύρια παραμέτρους. Σε αντίθεση, η πλήρης έκδοση του GPT-2 χρησιμοποιούσε 1,5 δισεκατομμύρια παραμέτρους, ενώ το πιο πρόσφατο GPT-3 ξεπέρασε τις προσδοκίες με μια εντυπωσιακή ποσότητα 175 δισεκατομμυρίων παραμέτρων.
Η βασική λειτουργία του GPT-2 περιστρέφεται γύρω από την έξυπνη πρόβλεψη του επόμενου τεκμηρίου. Αυτό επιτυγχάνεται μέσω της αρχιτεκτονικής του μετατροπέα του μοντέλου γλώσσας, η οποία μπορεί ακριβώς να προβλέψει την πιο πιθανή ολοκλήρωση για μια δεδομένη ακολουθία εισόδου. Η υλοποίηση του GPT-2 σε αυτό το φύλλο εργασίας λειτουργεί με έναν περιορισμένο αριθμό εισαγόμενων τεκμηρίων, μόνο 10, σημαντικά χαμηλότερα από τα εντυπωσιακά 128.000 τεκμήρια που χειρίζεται το GPT-4 Turbo. Ωστόσο, αυτός ο περιορισμός δεν πρέπει να υποτιμά την αξία του έργου του Αναντ, καθώς λειτουργεί ως πρακτική και εκπαιδευτική εισαγωγή στα μοντέλα γλώσσας για διάφορους επαγγελματίες, συμπεριλαμβανομένων των εκτελεστικών τεχνολογίας, των μάρκετερ, των διευθυντών προϊόντων, των πολιτικών AI, των ηθικών, των προγραμματιστών και των επιστημόνων που εισέρχονται στον τομέα της τεχνητής νοημοσύνης.
Ο Αναντ υπογραμμίζει ότι η ίδια αρχιτεκτονική μετασχηματιστή που χρησιμοποιήθηκε σε αυτό το έργο αποτελεί τη βάση για διάφορα άλλα μοντέλα γλώσσας, όπως το ChatGPT της OpenAI, το Claude της Anthropic, το Bard/Gemini της Google, το Llama της Meta και πολλά άλλα.
Σε μια λεπτομερή παρουσίαση, ο Αναντ εικονογραφεί πώς λειτουργεί η υλοποίηση του φύλλου εργασίας GPT-2 σε πολλά φύλλα. Το πρώτο φύλλο είναι αφιερωμένο στην εισαγωγή προτροπών, με μια ελαφριά περιορισμένη χρήση μόνο 10 προτροπών. Συνεχίζει εξηγώντας ουσιώδεις έννοιες όπως η τομέας λεξομοντουλοποίησης, οι θέσεις κειμένου και οι βαρύτητες, η ανάδειξη μέσω επαναληπτικής τελειοποίησης της πρόβλεψης της επόμενης λέξης και η τελική επιλογή του τελικού τεκμηρίου, που αντιπροσωπεύει την προβλεπόμενη τελευταία λέξη της ακολουθίας.
Αν και ο Αναντ χρησιμοποιεί μια σχετικά συμπαγή έκδοση του GPT-2, είναι σημαντικό να σημειωθεί ότι η υλοποίησή του βάζει σε δοκιμή τα όρια των δυνατοτήτων του Excel. Ωστόσο, προειδοποιεί κατά την προσπάθεια χρήσης αυτού του αρχείου Excel σε Mac, καθώς μπορεί να οδηγήσει σε κραχ και πάγωμα. Επιπλέον, το φύλλο εργασίας δεν είναι συμβατό με cloud-based εφαρμογές φύλλων εργασίας προς το παρόν. Συνιστάται ανεπιφύλακτα η χρήση της τελευταίας έκδοσης του Excel για να διασφαλίσετε βέλτιστη απόδοση. Είναι κρίσιμο να τονιστεί ότι το συγκεκριμένο φύλλο εργασίας χρησιμεύει κυρίως ως προσπάθεια εκπαίδευσης και ως πηγή απόλαυσης για τον Αναντ.
Ένα εξαιρετικό πλεονέκτημα της εκτέλεσης αυτού του μοντέλου γλώσσας μέσα στο Excel στον υπολογιστή σας είναι ότι λειτουργεί αποκλειστικά εκτός σύνδεσης χωρίς την ανάγκη κλήσεων API στο cloud. Αυτό εξασφαλίζει πλήρη τοπική λειτουργία και απορρήτου δεδομένων.
Συχνές Ερωτήσεις (FAQ):
Τι είναι το GPT-2;
Το GPT-2 σημαίνει “Γεννητικό Προεκπαιδευμένο Μετασχηματιστής 2” και είναι ένα μεγάλο μοντέλο γλώσσας που αναπτύχθηκε από την OpenAI. Χρησιμοποιεί αρχιτεκτονικές βαθιάς μάθησης για τη δημιουργία κειμένου παρόμοιου με ανθρώπινο βάσει των εισόδων.
Τι είναι η αρχιτεκτονική Transformer;
Η αρχιτεκτονική Transformer είναι ένας τύπος μοντέλου βαθιάς μάθησης που εξειδικεύεται σε εργασίες που αφορούν σειριακά δεδομένα, όπως η μετάφραση γλώσσας ή η δημιουργία κειμένου. Βασίζεται σε μηχανισμούς self-attention πολλαπλών κεφαλών που αιχμαλωτίζουν ισχυρές περιβαλλοντικές εξαρτήσεις.
Ποια είναι η σημασί
The source of the article is from the blog lanoticiadigital.com.ar
