Компанія Tachyum, технологічна компанія, недавно анонсувала свій останній інноваційний продукт – платформу Prodigy ATX. Ця робоча станція, орієнтована на штучний інтелект, базується на обрізаній версії універсального процесора Prodigy, який ще не вийшов випуском. За ціною в $5000 Tachyum твердить, що платформа Prodigy ATX поверне доступ до великих мовних моделей з мільярдами або більярдами параметрів. Однак компанія не розкрила дату доступності продукту.
Основна фішка платформи Prodigy ATX – це її 96-ядерний процесор Prodigy. Наразі передбачається, що він буде масово вироблятися на 5-нм вузлі TSMC до 2024 року. Центральний процесор працює з максимальною частотою 5,70 ГГц. Шляхом активації лише половини своєї площини, процесор зменшує споживання енергії та покращує виходи, роблячи платформу більш вигідною та доступною.
У Prodigy ATX Platform вражаючі технічні характеристики, до яких входять 1 ТБ DDR5-6400 SDRAM та пікова пропускна здатність 819,2 ГБ/с. Материнська плата підтримує три слоти PCIe x16 5.0, три слоти M.2-2280 NVMe з інтерфейсом PCIe 5.0 x4 та SATA-роз’єми для SSD- та HDD-накопичувачів. Крім того, дизайн корпусу ATX забезпечує наявність стандартних роз’ємів вводу-виводу, таких як USB, HDMI та Ethernet. Материнська плата також буде мати контролер управління дошкою AST2600 від Aspeed.
Основний акцент, який робить Tachyum з платформою Prodigy ATX, полягає у використанні попередньо навчених моделей для інференції та оптимізації ефективності за допомогою архітектури процесора. Завдяки використанню 4-бітного TAI sparse формату з 4-бітними вагами від Tachyum, вимоги до пам’яті для моделей з трильйонами параметрів драматично зменшуються, що дозволяє їх реалізацію в рамках обмежень пам’яті системи 1 ТБ.
За словами Tachyum, один лише 96-ядерний процесор Prodigy з 1 ТБ ОЗП може виконувати інференцію на моделі ChatGPT4 з 1,7 трлн параметрів, перевершуючи 52 графічних процесори Nvidia H100 за вартістю та споживанням енергії.
Незважаючи на перспективи платформи Prodigy компанії Tachyum у перетворенні обстановки штучного інтелекту, виникають питання щодо її економічної придатності. Приблизна вартість компонентів для платформи Prodigy ATX перевищує $4800, навіть без урахування вартості висококласних процесорів Prodigy. З огляду на повторні затримки в графіку випуску продукції компанії, до сих пір невідомо, коли Tachyum розпочне масове виробництво своїх процесорів та зробить їх широко доступними.
Для того, щоб Tachyum змогла популяризувати свою платформу Prodigy ATX, її остаточний успіх у перетворенні ринку робочих станцій штучного інтелекту залежатиме від її здатності забезпечити постачання процесорів у великих обсягах. Час покаже, чи зможе Tachyum подолати ці виклики та встановити свою платформу Prodigy ATX як революційний продукт у цій галузі.
Часті запитання:
1. Що таке платформа Prodigy ATX?
Платформа Prodigy ATX – це робоча станція, орієнтована на штучний інтелект, розроблена компанією Tachyum. Вона базується на обрізаній версії універсального процесора Prodigy, який ще не вийшов випуском.
2. Яка ціна платформи Prodigy ATX?
Плата за платформу Prodigy ATX складає $5000.
3. Яка основна функція платформи Prodigy ATX?
Основна функція платформи Prodigy ATX – це її 96-ядерний процесор Prodigy, що має бути масово вироблятися на 5-нм вузлі TSMC до 2024 року.
4. Які технічні характеристики платформи Prodigy ATX?
Платформа Prodigy ATX налічує 1 ТБ DDR5-6400 SDRAM та має пікову пропускну здатність 819,2 ГБ/с. Вона підтримує кілька слотів PCIe, M.2 NVMe слоти та SATA-роз’єми.
5. Як Tachyum оптимізує ефективність за допомогою платформи Prodigy ATX?
Tachyum оптимізує ефективність, використовуючи свій 4-бітний TAI sparse з 4-бітними вагами, що зменшує потребу в пам’яті для моделей з трильйонами параметрів.
6. Чи може платформа Prodigy ATX перевершити графічні процесори Nvidia?
За словами компанії Tachyum, один лише 96-ядерний процесор Prodigy з 1 ТБ ОЗП може перевершити 52 графічних процесори Nvidia H100 за вартістю та споживанням енергії, коли виконує інференцію на моделі ChatGPT4 з 1,7 трлн параметрів.
7. Які є проблеми щодо економічної придатності платформи Prodigy ATX?
İснують питання щодо економічної придатності платформи Prodigy ATX через оцінені вартості компонентів, які вже перевищують $4800, не враховуючи дорогі процесори Prodigy.
8. Коли процесори Prodigy стануть широко доступними?
Графік випуску процесорів Prodigy був повторно затриманий і поки що невідомо, коли Tachyum розпочне їх масове виробництво й зробить широко доступними.
Визначення:
– Prodigy ATX Platform: робоча станція, орієнтована на штучний інтелект, заснована на універсальному процесорі Prodigy від Tachyum.
– Prodigy universal processor: універсальний процесор від Tachyum, що ще не вийшов випуском.
– Tape out: завершення розробки напівпровідникового чіпа та створення фотошаблонів
The source of the article is from the blog karacasanime.com.ve