Tachyum, une entreprise technologique, a récemment annoncé sa dernière innovation, la plateforme Prodigy ATX. Cette station de travail orientée vers l’intelligence artificielle est basée sur une version simplifiée du processeur universel Prodigy, qui n’est pas encore finalisé. Avec un prix de 5000 dollars, Tachyum affirme que la plateforme Prodigy ATX révolutionnera l’accès aux modèles de langage volumineux avec des milliards voire des trillions de paramètres. Cependant, la date de disponibilité du produit n’a pas été divulguée par l’entreprise.
La fonctionnalité centrale de la plateforme Prodigy ATX est son processeur Prodigy à 96 cœurs. Actuellement prévu pour être produit en volume sur le nœud 5 nm de TSMC d’ici 2024, le processeur fonctionne à une fréquence maximale de 5,70 GHz. En n’activant que la moitié de la puce, le processeur réduit la consommation d’énergie et améliore le rendement, rendant ainsi la plateforme plus rentable et accessible.
La plateforme Prodigy ATX présente des spécifications impressionnantes, notamment 1 To de SDRAM DDR5-6400 et une bande passante maximale de 819,2 Go/s. Sa carte mère prend en charge trois emplacements PCIe x16 5.0, trois emplacements M.2-2280 NVMe avec une interface PCIe 5.0 x4, ainsi que des connecteurs SATA pour les SSD et les disques durs. De plus, la conception en boîtier ATX assure l’inclusion de connecteurs d’E/S standard tels que USB, HDMI et Ethernet. La carte mère sera également dotée du contrôleur de gestion de la carte AST2600 d’Aspeed.
L’objectif de Tachyum avec la plateforme Prodigy ATX est de tirer parti de modèles pré-entraînés pour l’inférence et d’optimiser l’efficacité grâce à l’architecture du processeur. En adoptant le format TAI sparse à 4 bits de Tachyum avec des poids à 4 bits, les besoins en mémoire pour les modèles de trillions de paramètres diminuent considérablement, permettant une prise en charge dans la limite de mémoire système de 1 To.
Selon Tachyum, un seul processeur Prodigy à 96 cœurs avec 1 To de RAM peut exécuter l’inférence sur un modèle ChatGPT4 avec 1,7 trillion de paramètres, surpassant ainsi 52 GPU Nvidia H100 en termes de coût et de consommation d’énergie.
Alors que la plateforme Prodigy de Tachyum montre des promesses pour transformer potentiellement le paysage de l’IA, des questions se posent quant à sa viabilité économique. Les coûts estimés des composants de la plateforme Prodigy ATX dépassent déjà 4800 dollars, sans tenir compte des processeurs Prodigy coûteux. Avec les retards répétés du calendrier de l’entreprise, il reste incertain quand Tachyum commencera à produire en masse ses processeurs et les rendra largement disponibles.
Alors que Tachyum s’efforce de populariser sa plateforme Prodigy ATX, son succès ultime dans la redéfinition du marché des stations de travail AI dépendra de sa capacité à fournir des processeurs à grande échelle. Seul le temps dira si Tachyum pourra surmonter ces défis et établir sa plateforme Prodigy ATX comme un bouleversement de l’industrie.
FAQ :
The source of the article is from the blog mgz.com.tw