Tachyum最近宣布了其最新创新产品Prodigy ATX平台。这款以人工智能为导向的工作站基于缩小版的Prodigy通用处理器，该处理器仍未完全设计完成。售价为5000美元的Prodigy ATX平台声称将彻底改变访问具有数十亿或数万亿参数的大型语言模型的方式。然而，该公司尚未公布产品的可用日期。
Prodigy ATX平台的核心特点是其96核Prodigy处理器。据预计，该处理器将于2024年在台积电的5nm工艺节点上开始批量生产，其最高频率为5.70 GHz。通过只启用其晶片的一半，该处理器降低了功耗并提高了产出率，从而使平台更具成本效益和易用性。
Prodigy ATX平台拥有令人印象深刻的规格，包括1TB的DDR5-6400 SDRAM和峰值带宽达819.2 GB/s。其主板支持三个PCIe x16 5.0插槽，三个带有PCIe 5.0 x4接口的M.2-2280 NVMe插槽，以及用于SSD和HDD的SATA连接器。此外，ATX机箱设计确保了标准I/O连接器（如USB、HDMI和以太网）的包含。主板还将采用Aspeed的AST2600板级管理控制器。
Tachyum通过利用预训练模型进行推理以及通过处理器架构优化效率来专注于Prodigy ATX平台。通过采用Tachyum的4位TAI稀疏和4位权重格式，兆参数模型的内存需求大幅减少，可在1TB系统内存限制内提供支持。
根据Tachyum的说法，单个96核Prodigy处理器配备1TB内存可以在ChatGPT4模型上运行推理，该模型具有1.7万亿参数，在成本和功耗方面优于52个Nvidia H100 GPU。
虽然Tachyum的Prodigy平台在改变人工智能领域可能具有潜力，但人们对其经济可行性提出了疑问。根据估计，Prodigy ATX平台的组件成本已超过4800美元，甚至未考虑昂贵的Prodigy处理器。随着公司发布计划多次推迟，Tachyum何时开始大规模生产处理器并使其广泛可用尚不确定。
随着Tachyum努力推广Prodigy ATX平台，它能否成功地改变人工智能工作站市场的成功将取决于其能够按规模交付处理器的能力。只有时间才能告诉我们Tachyum是否能克服这些挑战，并将其Prodigy ATX平台确立为行业的革命者。
常见问题：
1. Prodigy ATX平台是什么？
Prodigy ATX平台是由Tachyum开发的人工智能工作站，基于未发布的Prodigy通用处理器。
2. Prodigy ATX平台的价格是多少？
Prodigy ATX平台的价格为5000美元。
3. Prodigy ATX平台的核心特点是什么？
Prodigy ATX平台的核心特点是其96核Prodigy处理器，预计将于2024年开始在台积电的5nm工艺节点上进行批量生产。
4. Prodigy ATX平台的规格是什么？
Prodigy ATX平台包括1TB的DDR5-6400 SDRAM，峰值带宽为819.2 GB/s。它支持多个PCIe插槽、M.2 NVMe插槽和SATA连接器。
5. Tachyum如何通过Prodigy ATX平台优化效率？
Tachyum通过采用4位TAI稀疏和4位权重格式来优化效率，从而降低了兆参数模型的内存需求。
6. Prodigy ATX平台能超越Nvidia的GPU吗？
据Tachyum表示，单个96核Prodigy处理器配备1TB内存可以在ChatGPT4模型上运行推理时，在成本和功耗方面优于52个Nvidia H100 GPU。
7. 对于Prodigy ATX平台的经济可行性有哪些担忧？
有人对Prodigy ATX平台的经济可行性表示担忧，原因是预计组件成本的已超过4800美元，而这还没有考虑昂贵的Prodigy处理器。
8. Prodigy处理器何时可以广泛使用？
Prodigy处理器的发布计划一再推迟，尚不确定Tachyum何时开始批量生产并使其广泛可用。
定义：
– Prodigy ATX平台：基于Tachyum的Prodigy通用处理器的人工智能工作站。
– Prodigy通用处理器：Tachyum尚未发布的处理器。
– 完成设计（tape out）：半导体芯片设计完成和光罩制作完成的过程。
– CPU：中央处理器，计算机的主要组件，执行系统内大部分处理工作。
– 台积电（TSMC）：著名半导体代工厂商。
– DDR5-6400 SDRAM：数据传输速率5 – 6400的同步动态随机存取存储器，一种计算机内存类型。
– PCIe：高速串行计算机扩展总线标准。
– M.2-2280 NVMe插槽：用于提供高速存储的固态硬盘的尺寸和接口。
– SATA：串行高级技术附件，用于连接大容量存储设备的计算机总线接口。
– I/O连接器：用于将外部设备连接到计算机的输入/输出连接器。
– Aspeed AST2600：用于服务器管理的板级管理控制器。
– 推理：使用训练好的模型根据新数据进行预测或得出结论的过程。
– Nvidia H100 GPU：由领先的图形和人工智能技术公司NVIDIA开发的图形处理器。
– ChatGPT4模型：以其对话能力而闻名的AI语言模型。
建议的相关链接：
– https://www.tachyum.com/（Tachyum官方网站）
The source of the article is from the blog cheap-sound.com