Рост Nvidia замедлился, а AMD также показала худшие результаты, поскольку за последние шесть месяцев динамика сделок в сфере ИИ сместилась в сторону специализированных микросхем ASIC, которые, как считается, имеют в несколько раз больший потенциал роста, чем коммерческие графические процессоры. Однако, по мнению Morgan Stanley, ожидания рынка в отношении ASIC слишком высоки, и в долгосрочной перспективе ASIC будет сложно поколебать рыночные позиции GPU.

12 февраля стратег Morgan Stanley Джозеф Мур и его команда опубликовали отчет, в котором говорится, что ASIC как категория микросхем не лучше и не хуже коммерческих графических процессоров; это просто разные способы достижения одних и тех же результатов.

Morgan Stanley заявил, что ASIC хорошо работает в определенных конкретных сценариях применения, но это сильно зависит от потребностей в настройке конкретных клиентов; хотя стоимость разработки ASIC, как правило, низкая, ее системная стоимость и стоимость развертывания программного обеспечения могут быть намного выше, чем у графических процессоров, которые могут использоваться в коммерческих целях в больших масштабах. Клиентам может потребоваться потратить много времени и ресурсов на адаптацию программного обеспечения, что приведет к более высокой общей стоимости владения.

Кроме того, экосистема NVIDIA CUDA уже очень развита, и заказчики могут легко развертывать и запускать различные рабочие нагрузки, что увеличивает общую стоимость владения. Morgan Stanley прогнозирует, что Nvidia, нынешний лидер в секторе производства чипов, сохранит свое доминирующее положение, если только не произойдут неожиданные изменения.

По сравнению с коммерческими графическими процессорами, сценарии применения пользовательских микросхем ASIC слишком узкие

Morgan Stanley иногда отвечает утвердительно — специализированные микросхемы ASIC очень привлекательны, когда речь идет о более узких сценариях применения. ASIC — это чип, разработанный специально для конкретного поставщика облачных услуг или корпоративного клиента, который может обеспечить более высокую производительность и эффективность и, следовательно, имеет дифференцированное конкурентное преимущество на рынке.

Например, успех Google TPU (Tensor Processing Unit) — причина успеха в том, что Google изобрела современную технологию LLM Transformer и подтолкнула Broadcom к разработке чипа, специально оптимизированного для нее, что также принесло Broadcom более 8 миллиардов долларов дохода.

Однако Nvidia пытается вернуть себе долю рынка, оптимизируя свои графические процессоры для поддержки модели Transformer. Более того, в сфере облачных вычислений коммерческие графические процессоры зачастую более конкурентоспособны, чем ASIC.

Поэтому Morgan Stanley полагает, что в будущем преимущества специализированных микросхем ASIC могут быть более ярко выражены в традиционных рабочих нагрузках — в конце концов, Nvidia фокусируется на обучении мультимодальных моделей AGI (искусственного общего интеллекта), и эта возможность обучения может оказаться несколько избыточной для некоторых старых приложений.

Однако Morgan Stanley также добавил, что Nvidia все еще может оказаться трудно превзойти в предоставлении высококлассных возможностей обучения.

Затраты на разработку индивидуальных микросхем ASIC низкие, но системные затраты выше

Morgan Stanley заявил, что сама по себе ASIC дешевле графического процессора, особенно с точки зрения стоимости оборудования, но стоимость ее системы и программного обеспечения выше, что делает ее общую стоимость владения (TCO) не обязательно ниже, чем у коммерческого графического процессора.

В отчете упоминается, что стоимость оборудования некоторых ASIC может составлять всего 3000 долларов США, в то время как стоимость графического процессора Nvidia H100 составляет 20 000 долларов США. Эта разница в цене делает ASIC более привлекательными с точки зрения стоимости оборудования.

Однако, несмотря на более низкую стоимость оборудования ASIC, их системная стоимость может быть значительно выше, чем у графических процессоров общего назначения, а именно:

Стоимость кластера ASIC, вероятно, значительно выше, чем у Nvidia, поскольку Nvidia создает домен NVLINK на основе меди с 72 GPU, в то время как ASIC использует более дорогую оптическую технологию, а другие дорогостоящие компоненты аналогичны.

Хотя стоимость высокоскоростной памяти (HBM) одинакова, у Nvidia на самом деле может быть преимущество, поскольку она обладает монопольной покупательной способностью на новую HBM, и то же самое относится к CoWoS (технологии упаковки чипов).

С точки зрения программного обеспечения экосистема NVIDIA CUDA является очень развитой, что позволяет клиентам легко развертывать и запускать различные рабочие нагрузки. При использовании ASIC или других альтернатив клиентам может потребоваться потратить много времени и ресурсов на адаптацию программного обеспечения, что приведет к увеличению совокупной стоимости владения (TCO).

С точки зрения программного обеспечения экосистема NVIDIA CUDA является очень развитой, что позволяет клиентам легко развертывать и запускать различные рабочие нагрузки. При использовании ASIC или других альтернатив клиентам может потребоваться потратить много времени и ресурсов на адаптацию программного обеспечения, что приведет к увеличению совокупной стоимости владения (TCO).

Например, компания Databricks, клиент Trainium, ожидает, что «потребуются недели или месяцы, чтобы запустить систему в эксплуатацию». Недавно руководитель облачного сервиса сказал Morgan Stanley: «Каждые два года технология, предоставляемая моей командой ASIC, отстает от Nvidia на 2–3 года. С экономической точки зрения это не так уж и полезно».

Поэтому, хотя NVIDIA выпустила недорогие чипы, такие как L4 и L40, рынок по-прежнему склоняется к выбору дорогих высокопроизводительных видеокарт, поскольку видеокарты высокого класса имеют значительные преимущества в производительности и поддержке экосистемы.

В Morgan Stanley пришли к выводу, что многие недорогие процессоры могут привлечь часть клиентов на начальном этапе, но из-за отсутствия зрелой экосистемы и долгосрочной поддержки клиенты в конечном итоге вернутся к Nvidia. Исключениями являются TPU, Trainium и AMD MI300. Это не означает, что более дешевые процессоры не имеют никакой ценности, а скорее то, что более дешевые процессоры зачастую на самом деле не получают той доли рынка, которую изначально ожидали.

Доминирование Nvidia трудно поколебать

Позиция Nvidia на рынке остается прочной. В Morgan Stanley полагают, что доминирующее положение Nvidia на рынке чипов для искусственного интеллекта обусловлено не только ее мощным техническим потенциалом, но и ее комплексной экосистемой и постоянными инвестициями в НИОКР.

В отчете отмечается, что в этом году Nvidia планирует потратить около 16 миллиардов долларов на исследования и разработки, в то время как бюджет на разработку специализированных микросхем ASIC (специализированных интегральных схем) обычно составляет менее 1 миллиарда долларов, а в некоторых случаях даже меньше.

Благодаря этим средствам NVIDIA сможет поддерживать 4–5-летний цикл разработки и последовательно задействовать три проектные группы для непрерывного выпуска лидирующих на рынке высокопроизводительных чипов. Кроме того, Nvidia присутствует на каждой облачной платформе в каждом регионе мира, и любые инвестиции в экосистему Nvidia могут быть распространены по всему миру, что еще больше укрепит ее доминирующее положение на рынке.