Компания d-Matrix представила инновационное решение в сфере обработки искусственного интеллекта — специализированную IO-карту JetStream. Это устройство разработано для эффективного распределения вычислительных нагрузок при инференсе ИИ между серверами в центрах обработки данных.
Карта JetStream создана как дополнение к ускорителям Corsair от d-Matrix. Особенность последних заключается в использовании модифицированных ячеек SRAM для выполнения вычислений непосредственно в памяти (технология DIMC).
Технические характеристики новинки:
- Поддержка стандарта Ethernet для совместимости с существующими коммутаторами
- Интерфейс расширения PCIe 5.0 х16
- Использование корзин QSFP-DD
- Возможность работы с двумя портами 200GbE (200 Гбит/с) или одним портом 400GbE
В архитектуре серверов d-Matrix для ИИ-инференса реализована особая схема подключения:
- Ускорители Corsair соединяются через DMX-мост попарно
- Объединение пар ускорителей происходит через коммутатор PCIe
- Один NIC JetStream способен обслуживать до четырёх ускорителей Corsair
Преимущество решения — существенно сниженная сетевая задержка. По заявлениям разработчиков, в данной конфигурации она составляет всего 2 микросекунды, что является отличным показателем для подобных систем.
Инновационные карты JetStream от компании d-Matrix представляют собой универсальное решение для современных дата-центров. Их главное преимущество заключается в том, что они могут быть внедрены в уже существующие центры обработки данных без существенных затрат на обновление базовой инфраструктуры.
Комплексная система, состоящая из:
- IO-карт JetStream
- Специализированных ИИ-ускорителей Corsair
- Программного обеспечения Aviator
позволяет эффективно обрабатывать сложные ИИ-модели с количеством параметров, превышающим 100 миллиардов.
Сравнительные характеристики нового решения:
- Значительное преимущество в производительности — в 10 раз выше, чем у GPU-систем
- Выгодная экономика — трёхкратное улучшение экономической эффективности
- Энергосбережение — потребление энергии снижено в три раза по сравнению с традиционными GPU-решениями
Такое сочетание характеристик делает технологию JetStream перспективным выбором для организаций, работающих с масштабными ИИ-приложениями и стремящихся оптимизировать затраты на вычислительные ресурсы.
Технические характеристики новой IO-карты JetStream включают умеренное энергопотребление — всего около 150 Вт.
Система охлаждения устройства реализована на базе эффективного радиатора с тепловыми трубками, обеспечивающими оптимальное отведение тепла от критически важного компонента — зоны QSFP-DD.
Производственный процесс находится на стадии тестовых поставок. Компания уже начала отгружать пробные партии новинки своим партнёрам. Масштабное производство планируется запустить к концу текущего года, что позволит удовлетворить растущий спрос на данное решение.
По материалам:
servernews
