Нвідіа зробила значний крок у ринку чипів для штучного інтелекту завдяки своєму дуже популярному чипу H100 AI, що підняло вартість компанії поза технологічних гігантів, таких як Alphabet і Amazon. Тепер нвідіа готова ще більше розширити своє перевагу завдяки введенню нової відеокарти Blackwell B200 і “суперчіпу” GB200.
Відеокарта Blackwell B200 GPU вражає своїми вражаючими 208 мільярдами транзисторів, які пропонують до 20 петафлопсів продуктивності FP4. Nvidia стверджує, що в поєднанні з одним процесором Grace GB200 суперчіп може забезпечити до 30 разів більшу продуктивність для робочих навантажень інференції LLM, при цьому забезпечуючи значну енергоефективність. Говорять, що це дозволяє знизити витрати та споживання енергії до 25 разів порівняно з H100.
Навчання 1,8 трильйонної моделі параметрів раніше вимагало 8 000 відеокарт Hopper і 15 мегаватт енергії, але нвідіа стверджує, що з всього 2 000 відеокарт Blackwell, ту саму задачу можна виконати всього з 4 мегаватами енергії. Також GB200 виявляє помітні поліпшення продуктивності: на сім разів більш продуктивний та на чотири рази швидший у навчанні порівняно з H100, згідно з бенчмарк-тестуванням нвідіа на бенчмарку GPT-3 LLM з 175 мільярдами параметрів.
Нвідіа приписує цій спрямованості на два ключових фактори. По-перше, відеокарти Blackwell використовують двигун трансформера другого покоління, який подвоює обчислення, пропускну здатність та розмір моделі, використовуючи чотири біти для кожного нейрона замість восьми. По-друге, перший в своєму роді NVLink перемикач наступного покоління забезпечує безшовний обмін даними між великою кількістю відеокарт. Цей перемикач дозволяє 576 відеокартам взаємодіяти один з одним, володіючи 1,8 терабайтами на секунду у двонапрямленій пропускній здатності. Щоб досягти цього, Nvidia розробила новий чіп мережевого перемикача з 50 мільярдами транзисторів та власними обчислювальними можливостями на його борту.
Раніше нвідіа стикалася з перешкодами у комунікації, коли просто 16 відеокарт витрачали 60% часу на обмін даними замість обчислень. Однак архітектура Blackwell вирішує це виклик, що дозволяє краще використовувати обчислювальну потужність.
Nvidia передбачає значний попит на ці відеокарти і розробила більші пакети, щоб в них поміститися. Наприклад, GB200 NVL72 включає 36 процесорів і 72 відеокарти в один ріднокрижний шкаф, що дозволяє отримати вражаючі можливості для навчання штучного інтелекту або інференції. Відомі хмарні сервіси, такі як Amazon, Google, Microsoft та Oracle, вже висловили свій інтерес до включення цих шкафів.
Nvidia також прагне надати комплексні рішення компаніям, наприклад, DGX Superpod для DGX GB200. Ця система поєднує в собі вісім одиниць в одну, маючи 288 процесорів, 576 відеокарт, 240 терабайт пам’яті та дивовижну потужність обчислювань FP4 у сумі 11,5 ексафлопів.
Візія Nvidia виходить далеко за межі окремих відеокарт. Вони уявляють системи, які можуть масштабуватися до десятків тисяч суперчіпів GB200, з’єднаних за допомогою передових технологій мережування, таких як Quantum-X800 InfiniBand або Spectrum-X800 Ethernet.
Хоча це оголошення прийшло з Виставки технологій GPU Nvidia, яка в основному розробляється для обчислювання на GPU і штучного інтелекту, ймовірно, що архітектура відеокарт Blackwell також буде використовуватися для майбутніх ігрових відеокарт, включаючи очікувану лінійку RTX 50-серії.
FAQ
The source of the article is from the blog macnifico.pt