Az MlCommons nevű mesterséges intelligencia benchmark szervezet nemrégiben közzétett egy átfogó tesztsorozatot és eredményeket, amelyek kiértékelik a magas teljesítményű hardverek sebességét és reagálóképességét mesterséges intelligencia alkalmazások futtatásakor. Ezek az újonnan bevezetett benchmarkok arra összpontosítanak, hogy mérjék az AI chippek és rendszerek hatékonyságát abban, hogy mennyi idő alatt állítanak elő válaszokat az erős AI modellekkel gazdagított nagy mennyiségű adathalmazból.
Ezeknek a teszteknek az eredményei nagyban hozzájárulnak ahhoz, hogy milyen sebességgel képesek az AI alkalmazások, például a ChatGPT, válaszokat szolgáltatni a felhasználók kérdéseire. Az MlCommons bevezette a Llama 2 nevű benchmarkot, amely specifikusan a nagy nyelvi modellek kérdés-felelet szituációinak sebességét vizsgálja. A Meta Platforms fejlesztette Llama 2 egy lenyűgöző 70 milliárd paramétert tartalmaz.
A Llama 2 mellett az MlCommons bevezette az MLPerf nevű benchmarking eszközt is, amely a szöveg-vizuális generálásra összpontosít. Ez a benchmark a Stability AI Stable Diffusion XL modellt használja. Amikor értékelték, a Google’s Alphabet, Supermicro és maga a Nvidia által gyártott Nvidia H100 chipekkel felszerelt szerverek tűntek ki a legjobbaknak a nyers teljesítmény szempontjából a szöveg-vizuális generálás benchmark teszteken. Ezzel szemben különböző szerverépítők olyan terveket nyújtottak be, amelyek a Nvidia L40S chippeken alapulnak, amelyek kevésbé erőteljesek, de így is megállták a helyüket a képgenerálás benchmark teszteken.
Az egyik szerverépítő, a Krai, más úton járt el, amikor egy Qualcomm AI chippet alkalmazó tervezetet nyújtott be a képgenerálás benchmark tesztekre. Ez az alternatív chip jóval kevesebb energiát fogyasztott a Nvidia csúcstechnológiás processzoraihoz képest, így egy környezetbarátabb megközelítést mutatott. Az Intel is bemutatott egy tervezetet, amelyben a Gaudi2 gyorsítóchipjeik szerepeltek, és az eredményeket „meggyőzőnek” nevezte.
Bár a nyers teljesítmény továbbra is kritikus tényező az AI alkalmazások bevezetésében, az előrehaladott AI chipek energifogyasztása jelentős aggodalom forrása az iparág számára. Az AI cégek olyan chipek fejlesztésén dolgoznak, amelyek optimális teljesítményt nyújtanak, miközben minimalizálják az energiafogyasztást. Ennek eredményeként az MlCommons külön benchmark kategóriát hozott létre az energiafogyasztás mérésére.
Ezek az új benchmark eredmények hasznos információkat nyújtanak mind az AI hardvergyártóknak, mind az AI alkalmazások bevezetését tervező cégeknek. A sebesség és hatékonyság kiemelésével ezek a tesztek lényeges forrásul szolgálnak az AI technológia fejlesztésének elősegítésében.
Gyakran Ismételt Kérdések:
Q: Milyen új benchmarkokat vezetett be az MlCommons?
A: Az MlCommons olyan benchmarkokat vezetett be, amelyek mérzik az AI chippek és rendszerek sebességét és hatékonyságát erős AI modellekkel történő válaszgenerálásban, valamint egy benchmarkot szöveg-vizuális generálásra.
Q: Mely szerverek teljesítettek kiemelkedően a teszteken?
A: A Google’s Alphabet, Supermicro és a Nvidia által gyártott Nvidia H100 chipekkel felszerelt szerverek mutattak kiemelkedő teljesítményt a teszteken.
Q: Mutattak-e ígéretes eredményeket olyan tervek, amelyek alternatív chipeket alkalmaznak?
A: Igen, a Krai nevű szerverépítő bemutatott egy tervezetet, amelyben egy Qualcomm AI chip szerepelt, amely jelentős energiahatékonyságot mutatott a képgenerálás benchmark tesztek során.
Q: Miért fontos szempont az energiafogyasztás az AI cégek számára?
A: Az előrehaladott AI chipek jelentős mennyiségű energiát fogyasztanak, ezért az energiahatékonyság kulcsfontosságú kihívás azoknak az AI cégeknek, amelyek optimalizálni szeretnék a teljesítményt, miközben minimalizálják az energiával való gazdálkodást.
Q: Hogyan segítik ezek a benchmarkok az AI ipart?
A: A benchmark eredmények értékes információkat nyújtanak az AI hardvergyártóknak és az AI alkalmazások bevezetését tervező cégeknek, elősegítve az AI technológia fejlődését és fejlesztését.
További információ az MlCommons és benchmarkjaikról: látogasson el hivatalos honlapjukra az mlcommons.org oldalon.
The source of the article is from the blog karacasanime.com.ve