Майкрософт вступает в гонку за искусственным интеллектом с более маленькой, более эффективной языковой моделью: Техгигант представил ‘PyTorch 3 Mini’, новую небольшую языковую модель (SLM), которая обещает принести мощь искусственного интеллекта на персональные устройства за долю стоимости. В отличие от крупных аналогов, PyTorch 3 Mini разработана так, чтобы быть экономически эффективной с точки зрения затрат на обучение и эксплуатационные расходы, что делает ее идеальной для смартфонов и ноутбуков.
Глава исследований по искусственному интеллекту в компании Майкрософт, Себастьян Бубек, подчеркнул экономические преимущества своего последнего изобретения, отметив, что PyTorch 3 Mini может значительно снизить затраты на услуги искусственного интеллекта по сравнению с аналогичными моделями на порядок десять.
Компания стратегически расширяет свою серию PyTorch 3 с тремя различными характеристиками. В то время как только что выпущенная Mini имеет 3,8 миллиарда параметров, будущие ‘Small’ и ‘Medium’ модели будут включать в себя 7 и 14 миллиардов параметров соответственно.
Эксперты предвидят, что небольшие языковые модели, такие как PyTorch 3 Mini, в скором времени могут занять определенные функции у их крупных аналогов Large Language Model (LLM). Расширяя свою линейку SLM, Майкрософт, по сообщениям, также сформировал специализированную исследовательскую группу для дальнейшего развития технологии.
Это событие происходит на фоне острой конкуренции от отраслевых коллег, таких как Google, который в феврале выпустил упрощенные модели чатботов и задач языковой модели, Gemma 2B и 7B. Точно также Meta представила свое ‘Llama3’ вместе с значительной 70-миллиардной моделью и более маленькой 8-миллиардной вариант для чатботов и поддержки кода 18 марта.
Появление ‘PyTorch 3 Mini’ Малой языковой модели (SLM) от Майкрософт отражает растущий отраслевой тренд к более эффективному и доступному искусственному интеллекту. Обеспечение возможности работы моделей искусственного интеллекта на персональных устройствах может открыть множество приложений и сделать технологии, такие как обработка естественного языка, более доступными для потребителей и разработчиков приложений.
Важные вопросы и ответы:
— В: Как PyTorch 3 Mini сравнивается по размеру и мощности с другими языковыми моделями?
О: PyTorch 3 Mini меньше многих традиционных больших языковых моделей (LLM), имея 3,8 миллиарда параметров, в отличие от более крупных моделей, которые могут иметь десятки или сотни миллиардов параметров.
— В: Почему небольшие модели, такие как PyTorch 3 Mini, важны?
О: Небольшие модели важны, потому что их обучение и эксплуатационные расходы могут быть более экономичными, они могут быть развернуты на устройствах с ограниченными вычислительными ресурсами, таких как смартфоны и ноутбуки.
Основные проблемы или споры:
Одной из проблем является балансировка эффективности и возможностей. Меньшие модели могут быть более экономичными и универсальными, но обычно не могут сравниться с крупными моделями по производительности при выполнении сложных задач. Другой проблемой является обеспечение конфиденциальности и этичного использования, поскольку искусственные интеллектуальные модели становятся все более широко используемыми на персональных устройствах.
Преимущества и недостатки:
— Преимущества:
— Сниженные вычислительные затраты делают искусственный интеллект более доступным.
— Более низкое энергопотребление благотворно влияет на окружающую среду.
— Возможность интеграции искусственного интеллекта в более широкий ассортимент потребительских устройств.
— Более низкие затраты могут демократизировать доступ к технологиям искусственного интеллекта.
— Недостатки:
— Меньшие модели могут быть не такими мощными, как более крупные, что ограничивает их эффективность в некоторых задачах.
— Уменьшение размеров моделей может привести к снижению точности или возможностей.
— Могут возникнуть проблемы между конфиденциальностью и удобством использования на устройствах искусственного интеллекта.
Предлагаемые связанные ссылки:
— Для получения дополнительной информации о PyTorch, ключевом фреймворке, используемом исследователями для разработки моделей машинного обучения, включая SLM, такие как PyTorch 3 Mini, посетите PyTorch.
— Для обновлений от Майкрософт, относящихся к исследованиям и разработкам в области искусственного интеллекта, обратитесь к Microsoft.
Обратите внимание, что упомянутые модели, такие как Gemma 2B от Google и Llama3 от Meta, отражают фокус отрасли на создание спектра моделей искусственного интеллекта, от более маленьких, более доступных до очень крупных моделей, которые расширяют границы того, что машинное обучение способно делать сегодня.