Tachyum, technologická společnost, nedávno oznámila svou nejnovější inovaci – platformu Prodigy ATX. Tato pracovní stanice zaměřená na umělou inteligenci je založena na zjednodušené verzi univerzálního procesoru Prodigy, který dosud nebyl uveden na trh. S cenovkou 5000 dolarů tvrdí Tachyum, že platforma Prodigy ATX zpřístupní velké jazykové modely s miliardami nebo biliony parametrů. Společnost však neprozradila datum dostupnosti produktu.
Hlavní funkcí platformy Prodigy ATX je její 96-jádrový procesor Prodigy. Procesor, který by měl být produkován v objemu na nodu TSMC 5nm do roku 2024, pracuje s maximální frekvencí 5,70 GHz. Tím, že povolí pouze polovinu svého čipu, snižuje procesor spotřebu energie a zvyšuje výtěžnost, čímž dělá platformu přístupnější a ekonomicky výhodnější.
Platforma Prodigy ATX se pyšní impozantními specifikacemi, včetně 1TB DDR5-6400 SDRAM a špičkové propustnosti 819,2 GB/s. Její základní deska podporuje tři sloty PCIe x16 5.0, tři sloty M.2-2280 NVMe s rozhraním PCIe 5.0 x4 a konektory SATA pro SSD a HDD. Kromě toho zaručuje design ATX boxu zahrnutí standardních I/O konektorů, jako jsou USB, HDMI a Ethernet. Na základní desce bude také umístěn řadič desky AST2600 od Aspeed.
Pro společnost Tachyum je důležité využívat předškolené modely pro inference (odvozování) a optimalizovat efektivitu pomocí architektury procesoru. Přijetím formátu TAI sparse s 4bitovými váhami od Tachyumu dramaticky klesají paměťové požadavky pro modely s biliony parametrů a je možné je podporovat v rámci omezení systémové paměti 1TB.
Podle společnosti Tachyum je možné, že jedno jádro procesoru Prodigy s 96 jádry a 1TB RAM dokáže provádět inference na modelu ChatGPT4 s 1,7 bilionu parametrů a překonat 52 grafických karet Nvidia H100 výkonem, náklady a spotřebou energie.
Přestože platforma Prodigy od Tachyumu slibuje převrat v oblasti umělé inteligence, vznikají otázky ohledně její ekonomické životaschopnosti. Očekávané náklady na komponenty platformy Prodigy ATX přesahují 4800 dolarů, aniž by byly zohledněny drahé procesory Prodigy. S opakovaným zpožděním plánovaného uvedení výrobků společností Tachyum je nejisté, kdy začne masovou výrobu svých procesorů a zpřístupní je širokému množství uživatelů.
Úspěch společnosti Tachyum při popularizaci platformy Prodigy ATX a jejím poziciálování na trhu s pracovními stanicemi pro umělou inteligenci bude záviset na její schopnosti dodávat procesory v rozsahu. Jen čas ukáže, zda společnosti Tachyum podaří překonat tyto výzvy a etablovat platformu Prodigy ATX jako průlomovou na trhu.
The source of the article is from the blog trebujena.net