Производители обычно легко предоставляют информацию о рекомендованных ценах на традиционные процессоры, но ситуация с ценами на ИИ-ускорители выглядит иначе. Согласно порталу CRN, компания Intel публично объявила стоимость своей новой платформы Gaudi3. Это нарушает негласные правила конфиденциальности в отрасли, так как Intel сообщила на выставке Computex, что UBB-плата с восемью OAM-модулями Gaudi3 будет стоить 125 тысяч долларов для производителей серверов, планирующих поддерживать эту платформу при выпуске в третьем квартале 2024 года. Intel раскрыла цены после того, как конкуренты, такие как NVIDIA и AMD, заявили о планах выпускать всё более мощные чипы каждый год, что представляет серьёзную угрозу как для самой Intel, так и для менее крупных игроков на рынке.
По мнению Intel, 125 тысяч долларов составляют лишь треть от стоимости платформы NVIDIA с восемью ускорителями H100, которая лежит в основе системы NVIDIA DGX и сторонних серверов. Хотя сама NVIDIA не раскрывает цены на свои ускорители или платформы, согласно расчётам Intel, платформа HGX H100 оценивается примерно в 187 тысяч долларов. Стоимость может варьироваться в зависимости от объёма закупок и конфигурации серверов. При этом ускорители Blackwell B200 будут стоить уже от 30 до 40 тысяч долларов за штуку.
В Intel утверждают, что чипы Gaudi3 демонстрируют лучшее соотношение цены и производительности по сравнению с H100: они на 90 % эффективнее при обучении и в 2,3 раза — при выполнении задач инференса. UBB-плата с восемью ускорителями Gaudi2 стоит всего 65 тысяч долларов, что составляет примерно треть от стоимости платформы NVIDIA HGX H100. Однако в публичных тестах MLPerf только Gaudi2 смог конкурировать с H100 в задачах обучения и инференса. Цены на отдельные чипы Gaudi 3 пока не разглашаются.
Ещё одна важная особенность — ускорители Gaudi оснащены встроенными контроллерами Ethernet для взаимодействия друг с другом и с внешним миром, в то время как решениям NVIDIA требуется отдельный адаптер InfiniBand/Ethernet для каждого ускорителя, что повышает общую стоимость платформы. В Intel считают, что клиенты всё больше обращают внимание на показатель «токен/$», на который значительное влияние оказывает стоимость инфраструктуры.
В компании отметили, что обнародование цен на Gaudi2 и Gaudi3 поможет клиентам эффективнее планировать инвестиции в ИИ-проекты. Например, стартапы часто не обладают точной информацией об экосистеме, ценах и процессе закупок, поэтому теперь им будет проще определить, чего ожидать от предлагаемого оборудования. Открытость Intel получила поддержку со стороны крупных производителей IT-оборудования.
По материалам:
servernews