Ένα πρόσφατο τεχνικό άρθρο με τίτλο “WWW: Τι, Πότε, Πού να Υπολογίζετε-στη-Μνήμη” από ερευνητές του Πανεπιστημίου του Purdue εξετάζει τα πιθανά οφέλη του Υπολογισμού-στη-Μνήμη (CiM) για τη βελτίωση της ενεργειακής απόδοσης και της απόδοσης στην παραγωγή μάθησης (ML) .
Ο CiM έχει εμφανιστεί ως μια ελπιδοφόρα λύση για τη μείωση του κόστους μεταφοράς δεδομένων σε μηχανές von Neumann. Επιτρέπει παράλληλες λειτουργίες πολλαπλασιασμού πινάκων εντός της ίδιας της μνήμης, το οποίο είναι κρίσιμο για τις εργασίες παραγωγής μάθησης ML. Ωστόσο, η ολοκλήρωση του CiM θέτει σημαντικά ερωτήματα σχετικά με τον τύπο του CiM που πρέπει να χρησιμοποιηθεί, τον προσδιορισμό του πότε να χρησιμοποιηθεί το CiM και την απόφαση για το πού να ενοποιηθεί στην ιεραρχία μνήμης.
Οι ερευνητές χρησιμοποίησαν το Timeloop-Accelergy για πρόωρες εκτιμήσεις συστήματος διάφορων πρωτοτύπων CiM, τόσο αναλογικών όσο και ψηφιακών. Ενσωμάτωσαν το CiM σε διάφορα επίπεδα μνήμης cache σε μια βασική αρχιτεκτονική παρόμοια με την Nvidia A100 και προσαρμόστηκαν τη ροή των δεδομένων για διάφορα φορτία εργασίας ML.
Τα πειράματα που πραγματοποιήθηκαν σε αυτή την εργασία αναδεικνύουν τα σημαντικά οφέλη των αρχιτεκτονικών CiM. Με ακρίβεια INT-8, οι προτεινόμενες αρχιτεκτονικές CiM επέτυχαν μείωση έως και 0,12 φορές της κατανάλωσης ενέργειας σε σύγκριση με την καθιερωμένη βάση. Επιπλέον, μέσω τεχνικών όπως η διαλλαγή και η αναπαραγωγή βαρών, παρατηρήθηκαν αποδόσεις έως και 4 φορές.
Τα ευρήματα αυτής της έρευνας παρέχουν πολύτιμες πληροφορίες για την βέλτιστη χρήση του CiM για την επιτάχυνση της παραγωγής ML. Ρίχνει φως στον κατάλληλο τύπο CiM που πρέπει να επιλεγεί, τις συνθήκες όπου το CiM υπερτερεί των κανονικών πυρήνων επεξεργασίας και τα ιδανικά σημεία ενοποίησης στην ιεραρχία της cache για επιτάχυνση της παραγωγής GEMM.
Εξερευνώντας την ολοκλήρωση CiM για την παραγωγή ML, αυτό το άρθρο συμβάλλει στις συνεχιζόμενες προσπάθειες για την αύξηση της ενεργειακής αποδοτικότητας των συστημάτων τεχνητής νοημοσύνης. Καθώς οι φόρτοι εργασίας ML συνεχίζουν να αυξάνονται σε κλίμακα και πολυπλοκότητα, το CiM παρουσιάζει μια δυνητική διάβρωση που θα μπορούσε να βοηθήσει στην αντιμετώπιση αυτών των προκλήσεων, ενώ παραμένει εντός των προκαθορισμένων ενεργειακών προϋπολογισμών.
Συνολικά, αυτή η έρευνα αναδεικνύει το δυναμικό του CiM για την επανάσταση της επιτάχυνσης παραγωγής ML και παρέχει θεμέλιο για μελλοντικές προόδους σε αυτό τον τομέα. Περαιτέρω εξερεύνηση και ανάπτυξη στις τεχνολογίες CiM μπορούν να ανοίξουν τον δρόμο για πιο ενεργειακά αποδοτικά και υψηλής απόδοσης συστήματα υπολογισμού.
The source of the article is from the blog hashtagsroom.com