alphapc.ru

Новости в Мире Hi-Tech

Почему Nvidia сильна в ИИ помимо GPU?

Nvidia сохраняет преимущество в ИИ благодаря системам вокруг GPU

На этой неделе Nvidia представила финансовые результаты, которые показали инвесторам, что её конкурентное преимущество выходит далеко за рамки производства графических процессоров, несмотря на появление собственных чипов у Amazon и Google. Ранее доминирующее положение компании на рынке ИИ-чипов ставилось под сомнение, однако новые данные указывают на устойчивость её бизнеса.

Это захватывающая история, и в основном это правда. После роста рыночной капитализации в 10 раз в период с начала 2023 года по середину 2025 года акции Nvidia в прошлом году находились на более скромной траектории, что было вызвано опасениями по поводу конкуренции с графическими процессорами.

С тех пор, как прибыль компании в среду начала формироваться, инвесторы начинают понимать, что преимущество Nvidia выходит далеко за рамки графических процессоров. По мере того, как вычисления ИИ перерастают в гигаваттную шкалу, оркестровка становится все более сложной задачей. Неудивительно, что Nvidia создала большую часть современного оборудования, необходимого для его обработки, что дает компании огромное преимущество в системах, которые окружают GPU, даже несмотря на растущую конкуренцию на самих графических процессорах.

Несмотря на все разговоры о вычислениях как о товаре, по-прежнему невероятно сложно управлять мегамасштабным центром обработки данных с максимальной эффективностью, и по мере того, как развертывание становится все больше и быстрее, эта проблема только растет.

Что такое стойка Nvidia?

Nvidia сохраняет преимущество в ИИ благодаря системам вокруг GPU - изображение номер один
Nvidia сохраняет преимущество в ИИ благодаря системам вокруг GPU — изображение номер один — фото из freepik.com

Вы можете увидеть некоторые из них, просто взглянув на детали того, что на самом деле продает Nvidia. В настоящее время компания внедряет свою архитектуру Vera Rubin, которая объединяет графический процессор Rubin с коллекцией других блоков, включая процессор Vera, LPX-ускоритель Groq 3 и аналогичные стойки для хранения и создания сетей.

На прошлой неделе я разговаривал с людьми из Nvidia о том, что на самом деле делают эти системы, и результаты были удивительными. Как и сам графический процессор Rubin, они являются чрезвычайно специализированными системами, но вместо того, чтобы использовать токены, они следят за тем, чтобы все, что находится за пределами графического процессора, работало максимально эффективно. Если GPU — это двигатель, то это все остальное.

«Вера важна, потому что есть только так много памяти, что вы можете разместить на одном сервере или любой компьютерной платформе», — сказал Джейсон Харди, вице-президент Nvidia по технологии хранения данных.

Поскольку центры обработки данных увеличили вычислительную мощность, емкость памяти также увеличилась, поэтому такие компании, как Micron, разбогатели во второй волне бума инфраструктуры. Но получить эти данные в GPU в нужное время не так просто, и, поскольку компании стремятся все ниже и ниже использовать токены на ватт, они понимают, насколько важно такое направление трафика.

«Мы увидели улучшение в 3 раза в этих операциях, где процессор Vera позволяет ускоряться, — сказал Харди. — Теперь мы можем использовать нашу вспышку в полной мере, потому что мы можем получить всю эту производительность без узких мест».

Вы можете увидеть версии той же проблемы за пределами Nvidia. Когда OpenAI разработала свой чип Jalapeño, основное внимание уделялось тому, чтобы полностью избежать этих проблем, сводя к минимуму количество данных, которые необходимо перемещать.

«Мы разработали Jalapeño, чтобы минимизировать перемещение данных и задержки связи, — говорится в сообщении компании в начале этого месяца. — Его большой домен позволяет всей рабочей нагрузке оставаться в одной подключенной системе, минимизируя перемещение данных и помогая полному запросу оставаться быстрым и эффективным от начала до конца».

Это другой подход, позволяющий полностью избежать перемещения данных, выполняя рабочую нагрузку в одном интегрированном чипе. Но общая логика та же, повышая эффективность с более интеллектуальным управлением трафиком, а не просто с большим количеством циклов процессора. Это, в свою очередь, открывает совершенно новый уровень инфраструктуры для компаний.

Этот новый фокус на оркестровке данных не является автоматическим выигрышем для Nvidia. Компании придется конкурировать с конкурирующими производителями чипов и гипермасштаберами, как и с графическими процессорами. Но конкуренция перешла на новый уровень, где создание конкурирующего графического процессора имеет меньшее значение, чем возможность эффективно работать всей системе.

И, по крайней мере, на ранних стадиях Nvidia, похоже, будет командовать.

Вопросы и ответы

Почему акции Nvidia выросли в 10 раз с начала 2023 года по середину 2025 года?

Рост рыночной капитализации Nvidia в 10 раз за указанный период был вызван её доминированием на рынке ИИ-чипов и высоким спросом на её графические процессоры. Однако в прошлом году акции росли медленнее из-за опасений по поводу конкуренции, но новые финансовые результаты показали устойчивость бизнеса.

Что такое архитектура Vera Rubin от Nvidia?

Архитектура Vera Rubin — это система, объединяющая графический процессор Rubin с другими компонентами, включая процессор Vera, LPX-ускоритель Groq 3 и стойки для хранения и сетей. Она предназначена для повышения эффективности работы всего, что окружает GPU, включая управление данными и памятью.

Какой подход использовала OpenAI при разработке чипа Jalapeño?

OpenAI разработала чип Jalapeño с целью минимизировать перемещение данных и задержки связи. Большой домен чипа позволяет всей рабочей нагрузке оставаться в одной подключенной системе, что ускоряет выполнение запросов и повышает эффективность, избегая узких мест при передаче данных.