Η Nvidia συνεργάζεται με τη Microsoft για να απελευθερώσει τη δύναμη των εφαρμογών που τροφοδοτούνται από την τεχνητή νοημοσύνη απευθείας στις γραφικές κάρτες RTX της Nvidia. Στην έκθεση Computex 2024, οι εταιρείες αποκάλυψαν τη συνεργασία τους σε μια διεπαφή προγραμματισμού εφαρμογών (API) που θα επιτρέπει στους προγραμματιστές να αξιοποιούν διάφορα Μικρά Μοντέλα Γλώσσας (SLMs) – η ουσιωδώς για το runtime Copilot+ – στις GPU των χρηστών αντί για το μόνο σε μια μονάδα επεξεργασίας νευρωνικού (NPU).
Τα SLMs που χρησιμοποιούνται ως βάση για χαρακτηριστικά όπως η Ανάκληση και η Ζωντανή Σημείωση τώρα μπορούν να αξιοποιήσουν τις υψηλότερες γενικές δυνατότητες της τεχνητής νοημοσύνης των GPU. Αυτή η εξέλιξη σπάει την αποκλειστικότητα των εφαρμογών τεχνητής νοημοσύνης που δένονται με το περιβάλλον Copilot+, διευρύνοντας τον τομέα εφαρμογής σε ΗΥ που δεν διαθέτουν το απαιτούμενο NPU.
Τα προσωπικά υπολογιστές Copilot+ απαιτούσαν προηγουμένως ένα NPU με δυνατότητα εκτέλεσης τουλάχιστον 40 τρισεκατομμύρια λειτουργίες ανά δευτερόλεπτο (TOPS). Μέχρι στιγμής, μόνο το τσιπ Snapdragon X Elite μπορούσε να ικανοποιήσει αυτές τις απαιτήσεις. Ωστόσο, οι GPU υπερβαίνουν αυτές τις δυνατότητες, με ακόμα και μοντέλα χαμηλότερης κατηγορίας φτάνοντας μέχρι τα 100 TOPS και τα υψηλότερα μοντέλα υπερβαίνοντας κατά πολύ αυτό.
Η νέα API φέρνει δυνατότητες Ενισχυμένης Ανάκτησης-Παραγωγής (ERG) στο runtime Copilot, επιτρέποντας στα μοντέλα τεχνητής νοημοσύνης να έχουν πρόσβαση σε συγκεκριμένες τοπικές πληροφορίες, προσφέροντας πιο σχετικές λύσεις, όπως είχε επιδειχθεί νωρίτερα στο Chat with RTX της Nvidia.
Εκτός από την API, η Nvidia ανακοίνωσε το RTX AI toolkit στην έκθεση Computex. Η κυκλοφορία του είναι προγραμματισμένη για τον Ιούνιο. Αυτό το εργαλείο συνδυάζει μια ποικιλία από εργαλεία προγραμματιστών και Σετ Ανάπτυξης Λογισμικού (SDKs), επιτρέποντας τη δημιουργία αρμονικά ρυθμισμένων μοντέλων τεχνητής νοημοσύνης για συγκεκριμένες εφαρμογές. Σύμφωνα με την Nvidia, το RTX AI toolkit επιτρέπει τη δημιουργία μοντέλων έως και τέσσερις φορές ταχύτερα και τρεις φορές μικρότερων σε μέγεθος σε σύγκριση με τις εναλλακτικές λύσεις ανοιχτού κώδικα.
Η άνοδος των εργαλείων προγραμματιστών δίνει ώθηση στη δημιουργία εφαρμογών τεχνητής νοημοσύνης για συγκεκριμένους χρήστες. Αν και κάποια χαρακτηριστικά έχουν ήδη παρουσιαστεί στους ΗΥ της Copilot+, αναμένονται πιο εξελιγμένες εφαρμογές τεχνητής νοημοσύνης το επόμενο έτος. Με τον κατάλληλο υλικό πλέον στη θέση του, οι προγραμματιστές χρειάζονται μόνο την προγραμματιστική γλώσσα για να αξιοποιήσουν πλήρως τη δυναμική αυτών των εφαρμογών.