Neuchips, un’azienda specializzata in Circuiti Integrati Specifici delle Applicazioni (ASIC) per l’Intelligenza Artificiale, ha presentato due innovativi componenti hardware al CES. Il chip acceleratore Raptor Gen AI e la scheda acceleratore Evo PCIe offrono un nuovo modo di eseguire modelli linguistici di grandi dimensioni (LLM) su hardware meno potente consumando meno energia.
Sfruttando le capacità di questi nuovi componenti hardware, le imprese possono implementare LLM a una frazione dei costi attuali. Il chip Raptor, in grado di eseguire fino a 200 tera operazioni al secondo, fornisce supporto per algoritmi critici di apprendimento automatico come le moltiplicazioni di matrici e le ricerche di tabelle di embedding. Ciò lo rende applicabile non solo ai LLM, ma anche a una vasta gamma di modelli di intelligenza artificiale generativa e basati su trasformatori.
A completamento del chip Raptor, la scheda di accelerazione Evo combina la potenza dei chip Raptor con 32 GB di memoria LPDDR5 e un’interfaccia PCIe Gen 5 con otto corsie, offrendo una banda I/O host ad alta velocità di 64 GB/s. Questa combinazione di prestazioni ed efficienza energetica apre nuove possibilità per le applicazioni di intelligenza artificiale, consentendo lo sviluppo di una nuova generazione di strumenti di intelligenza artificiale.
Al CES, il team di Neuchips ha mostrato le capacità del loro hardware dimostrando la sua implementazione riuscita nei popolari chatbot di intelligenza artificiale Whisper e Llama. Le impressionanti prestazioni e l’efficienza energetica dell’hardware hanno il potenziale per trasformare il panorama dell’intelligenza artificiale, rendendo gli strumenti di intelligenza artificiale più accessibili ed economici per le imprese.
Aspettatevi nuovi entusiasmanti lanci di prodotti da Neuchips nei prossimi mesi mentre continuano a spingere i confini dell’innovazione dell’hardware per l’intelligenza artificiale. Con l’introduzione del chip Raptor Gen AI e della scheda di accelerazione Evo PCIe, Neuchips ha gettato le basi per una nuova era nelle applicazioni di intelligenza artificiale.
The source of the article is from the blog scimag.news