Artikli: NPUs tähtsuse teistsugune mõistmine AI-arvutites.
AI-arvutid on viimasel ajal tiitlide all, kuna tehnoloogiahiidude, nagu Intel, AMD ja Qualcomm, edendavad oma kiipe integreeritud NPUs’dena AI-võimete vallapääsemise võtit. Siiski näitab lähemalt uurimine, et NPUs ei pruugi olla nii olulised, nagu neid kujutatakse.
Oluline kaalutlus on see, et AI jõudluse mõõtmine on keeruline ülesanne. AI hõlmab erinevaid ülesandeid, nagu pildigeneratsioon ja suured keelemudelid, millel igal ülesandel on oma muutujate kogum, mis võivad jõudlust mõjutada. Sellest tulenevalt on AI jõudluse täpne mõõtmine keeruline.
Hiljutise testi käigus, kus kasutati UL Procyon AI inferentsi testi, selgus, et kuigi NPU osaleb AI-arvutustes, mängib GPU palju olulisemat rolli. Procyon’i testid näitasid, et GPU AI jõudlus oli 182% kõrgem kui CPU AI jõudlus, ületades NPU-d 55%. See viitab sellele, et kui AI on prioriteet, oleks kasulik investeerida võimsasse graafikakaarti või GPU-sse.
Siiski tasub märkida, et AI rakendused võivad ikkagi töötada CPU-de või GPU-dega ilma vajaduseta pühendatud AI loogikaplokile. Erinevatel komponentidel on erinev tõhusustase AI ülesannete jaoks. Intel väidab, et NPU pakub paremat tõhusust, mis tõlgendub parema aku tööeana AI rakenduste puhul, mis töötavad pikka aega. Näiteks AI kasutamine müra filtreerimiseks pikkade Microsoft Teamsi kõnede ajal.
Kuigi NPU tehnoloogia on endiselt algusjärgus, on huvitav näha, et UL Procyon’i rakendus ei tunnista AMD AI-toega Ryzen kiipides isegi NPU-d. See rõhutab AI jõudluse testimise keerukust ja edusamme, mis tuleb teha AI riistvara ühilduvuse osas.
Kokkuvõttes võivad NPUs suurendada AI-võimekust arvutites, kuid need ei ole hädavajalikud, eriti kui teil on juba mänguarvuti või töölaud. Võimsa GPU-sse investeerimine tooks kaasa märkimisväärsemaid AI jõudluse parandusi. AI-tehnoloogia edenedes on huvitav näha, kuidas NPUs arenevad ja kas nende tähtsus AI-arvutites kasvab.
The source of the article is from the blog motopaddock.nl