Tachyum最近宣布了其最新创新产品Prodigy ATX平台。这款以人工智能为导向的工作站基于缩小版的Prodigy通用处理器,该处理器仍未完全设计完成。售价为5000美元的Prodigy ATX平台声称将彻底改变访问具有数十亿或数万亿参数的大型语言模型的方式。然而,该公司尚未公布产品的可用日期。
Prodigy ATX平台的核心特点是其96核Prodigy处理器。据预计,该处理器将于2024年在台积电的5nm工艺节点上开始批量生产,其最高频率为5.70 GHz。通过只启用其晶片的一半,该处理器降低了功耗并提高了产出率,从而使平台更具成本效益和易用性。
Prodigy ATX平台拥有令人印象深刻的规格,包括1TB的DDR5-6400 SDRAM和峰值带宽达819.2 GB/s。其主板支持三个PCIe x16 5.0插槽,三个带有PCIe 5.0 x4接口的M.2-2280 NVMe插槽,以及用于SSD和HDD的SATA连接器。此外,ATX机箱设计确保了标准I/O连接器(如USB、HDMI和以太网)的包含。主板还将采用Aspeed的AST2600板级管理控制器。
Tachyum通过利用预训练模型进行推理以及通过处理器架构优化效率来专注于Prodigy ATX平台。通过采用Tachyum的4位TAI稀疏和4位权重格式,兆参数模型的内存需求大幅减少,可在1TB系统内存限制内提供支持。
根据Tachyum的说法,单个96核Prodigy处理器配备1TB内存可以在ChatGPT4模型上运行推理,该模型具有1.7万亿参数,在成本和功耗方面优于52个Nvidia H100 GPU。
虽然Tachyum的Prodigy平台在改变人工智能领域可能具有潜力,但人们对其经济可行性提出了疑问。根据估计,Prodigy ATX平台的组件成本已超过4800美元,甚至未考虑昂贵的Prodigy处理器。随着公司发布计划多次推迟,Tachyum何时开始大规模生产处理器并使其广泛可用尚不确定。
随着Tachyum努力推广Prodigy ATX平台,它能否成功地改变人工智能工作站市场的成功将取决于其能够按规模交付处理器的能力。只有时间才能告诉我们Tachyum是否能克服这些挑战,并将其Prodigy ATX平台确立为行业的革命者。
常见问题:
1. Prodigy ATX平台是什么?
Prodigy ATX平台是由Tachyum开发的人工智能工作站,基于未发布的Prodigy通用处理器。
2. Prodigy ATX平台的价格是多少?
Prodigy ATX平台的价格为5000美元。
3. Prodigy ATX平台的核心特点是什么?
Prodigy ATX平台的核心特点是其96核Prodigy处理器,预计将于2024年开始在台积电的5nm工艺节点上进行批量生产。
4.… Read the rest