У нещодавньому розмові з Ілоном Маском, експертом у галузі штучного інтелекту (ШІ), були розглянуті поточні перешкоди, які виникали перед великими технологічними компаніями у минулому році. Маск пролив світло на виклики, що чекають на промисловість в майбутньому, і надав інсайти щодо можливих перешкод, які можуть виникнути в майбутньому.
Однією з ключових проблем, яку висвітлив Маск, були пов’язані з апаратурою проблеми. Хоча дефіцит мікросхем, який вплинув на галузь у 2022-2023 роках, вже подолано, нова перешкода виникла у вигляді дефіциту напругових трансформаторів. Ці трансформатори є невід’ємними для багатьох розробників ШІ, оскільки вони відіграють важливу роль у живленні та запуску їхніх моделей.
Зазирнувши в майбутнє, Маск висловив попередження щодо можливої кризи у наступному році, підкреслюючи можливість дефіциту електроенергії взагалі. Велика потужність, необхідна для навчання моделей ШІ, може призвести до цієї складної ситуації. Маск пояснив, що саме модель Grok 2 вимагала використання приблизно 20 000 NVIDIA H100 GPU, що свідчить про те, що для моделі Grok 3 потрібно буде щонайменше 100 000 чіпів H100.
За розрахунками від Tom’s Hardware, кожен NVIDIA H100 GPU споживає приблизно 700 Вт при роботі на повну потужність. Беручи до уваги, що буде задіяно 100 000 GPU, разом із необхідними серверами і системами охолодження в центрі обробки даних, щоденно буде споживатися дивовижних 100 мегаватт електроенергії. Щоб проілюструвати, це рівень споживання енергії порівняно з енергоспоживанням маленького міста.
Часті питання:
П: З якими викликами стикалися великі технологічні компанії у минулому році?
В: Дефіцит мікросхем був значним викликом, з яким стикалися великі технологічні компанії.
П: Яка поточна перешкода в галузі для розробників ШІ?
В: Відсутність напругових трансформаторів наразі утруднює роботу розробників ШІ.
П: Що попередив Ілон Маск на майбутнє?
В: Маск попередив про можливість дефіциту електроенергії, що може вплинути на навчання моделей ШІ.
П: Яка потужність потрібна для навчання моделей ШІ?
В: За даними Ілона Маска, навчання моделі Grok 2 вимагало використання приблизно 20 000 NVIDIA H100 GPU.
Джерела:
– Tom’s Hardware (www.tomshardware.com)
Огляд галузі:
Стаття обговорює виклики, з якими стикаються великі технологічні компанії в галузі штучного інтелекту (ШІ). Галузь ШІ за останні роки пережила значний ріст, причому компанії у різних секторах використовують технології ШІ для вдосконалення своїх продуктів, послуг та операцій. Попит на моделі та застосунки ШІ веде до прогресу в апаратній та програмній технологіях для підтримки їх розробки та впровадження.
Прогнози ринку:
Ринок ШІ очікується продовжувати свій шлях зростання у наступні роки. Згідно звіту від Grand View Research, глобальний ринок ШІ прогнозується досягти 733,7 мільярди доларів до 2027 року з річною зростанням у розмірі 42,2% з 2020 по 2027 рік. Цей ріст приписується зростанню використання ШІ в секторах, таких як охорона здоров’я, фінанси, роздрібна торгівля та автомобілебудування, серед інших.
Проблеми, пов’язані з галуззю:
1. Проблеми з апаратурою: Стаття висвітлює питання дефіциту апаратури, з якими стикається галузь ШІ. Дефіцит мікросхем, що відчувався у 2022-2023 роках, вплинув на доступність критичних компонентів, необхідних для розробки ШІ. Цей дефіцит вплинув на виробництво та доступність апаратури ШІ, спричиняючи розлад в ланцюгу постачання. Крім того, виникнення дефіциту напругових трансформаторів створює додаткову перешкоду для розробників ШІ, оскільки ці компоненти є важливими для живлення і запуску моделей ШІ.
2. Споживання енергії: Іншою помітною проблемою, на яку звернуто увагу в статті, є значне споживання енергії під час навчання моделей ШІ. Зі зростанням складності та розміру моделей ШІ зростає і потреба у обчислювальній потужності для їх навчання. Цей зростаючий попит на енергію може непросто намагести існуючу енергетичну інфраструктуру та може призвести до дефіциту електроенергії. Приклад моделі Grok 2, для навчання якої потрібно було 20 000 NVIDIA H100 GPU, підкреслює величезність споживання енергії. Вимоги до енергії для навчання моделей ШІ великого розміру можуть бути порівняні з енергоспоживанням маленького міста.
Джерела:
– Tom’s Hardware (www.tomshardware.com)
– Grand View Research (www.grandviewresearch.com)
The source of the article is from the blog klikeri.rs