Η MLCommons, ένας συνασπισμός που περιλαμβάνει μεγάλους παίκτες της βιομηχανίας όπως η Amazon, η AMD, η Google, η Intel και η Nvidia, έχει κυκλοφορήσει την τέταρτη έκδοση του MLPerf Training Benchmarks με έμφαση στη μάθηση μεγάλης κλίμακας της τεχνητής νοημοσύνης. Η πιο πρόσφατη γύρος παρουσιάζει νέους δείκτες, όπως η εκσυγχρονισμός Μεγάλων Μοντέλων Γλώσσας και των Νευρωνικών Δικτύων Γράφων. Επίσης, είναι σημαντικό η συμμετοχή της Sustainable Metal Cloud (SMC), με 24 υποβολές με μέτρηση της ενέργειας, με στόχο να αναδείξει τις δυνατότητες εξοικονόμησης ενέργειας της τεχνολογίας της ψύξης με απαγωγή που κατέχουν.
Ανάμεσα στους διάφορους συμμετέχοντες, μία μικρή αλλά αξιοσημείωτη συμμετοχή προήλθε από την tinycorp, μια εταιρεία με επικεφαλής τον πρώην χάκερ George Hotz, η οποία έχει θέσει τον ευατό της στον χώρο της επιτάχυνσης της τεχνητής νοημοσύνης συνεισφέροντας τα πρώτα chips AMD στο MLPerf Training v4.0. Αντίθετα με την συνήθη υπεροχή των επιταχυντών H100 της Nvidia, η tinycorp παρουσίασε αποτελέσματα για το tinybox red, εξοπλισμένο με έξι Radeon RX 7900 XTX GPUs, και το tinybox green, με κάρτες Nvidia GeForce RTX 4090.
Το tinybox red κατέγραψε χρόνο ολοκλήρωσης δείκτη 167,15 λεπτών, ενώ ο πράσινος μεταβλήτης παρουσίασε 122,08 λεπτά, που αναδεικνύουν χώρο βελτίωσης έναντι των καθιερωμένων δεικτών που έχουν καθοριστεί από τους επιταχυντές αποθήκευσης δεδομένων στο κέντρο δεδομένων. Παρά τους μεγαλύτερους χρόνους, η tinycorp στοχεύει να αναδείξει οικονομικά οφέλη, βασιζόμενη σε ένα κόστος πλεονέκτημα που θα μπορούσε εν τέλει να μεταφραστεί σε οικονομικά κέρδη όπου ο χρόνος ισοδυναμεί με χρήματα.
Η υπόσχεση του Hotz να ενσωματώσει τους επιταχυντές AMD στο MLPerf μέχρι το 2024 έχει εκπληρωθεί. Η ιστοσελίδα της tinycorp καταχωρεί το tinybox green (Nvidia) στα $25,000 με εξαιρετική ποιότητα οδηγών, και το tinybox red (AMD) στα $15,000, αν και με μόνο μέτρια ποιότητα οδηγών, και και οι δύο με χρονοδιάγραμμα αποστολής δύο έως πέντε μήνες. Παρά την κάποια απογοήτευση που είχε εκφράσει προηγουμένως ο Hotz σχετικά με το υποσύστημα ROCm της AMD, μια αισιόδοξη προοπτική για μελλοντικές βελτιώσεις φαίνεται τώρα να είναι κοινή από τον Hotz και τη Διευθύντρια Εκτελεστικής Διευθύντρια της AMD, Δρ. Lisa Su, μετά από τις συζητήσεις τους.
Οι διετής διαγωνισμοί μετρητών MLPerf επιτρέπουν σε διάφορους κατασκευαστές να επιδείξουν τις δυνατότητες εκπαίδευσης μοντέλων τεχνητής νοημοσύνης μέσω διαφόρων εργασιών, συνεχίζοντας να ωθούν τα όρια της τεχνολογίας και της απόδοσης.