Обычно в современных флагманских GPU-серверах используются ускорители, выполненные в форм-факторах SXM (NVIDIA) или OAM (другие производители). Однако существуют определённые особенности.
Такое расположение помогает снизить уровень тепловыделения, но из-за конструкции модулей не обеспечивает максимальную вычислительную плотность — обычно каждый сервер вмещает не более восьми ускорителей.
Supermicro, один из ведущих поставщиков серверного оборудования, представил новую разработку — платформу SYS-322GB-N, способную вмещать до 18 ускорителей, занимая при этом всего лишь 3U пространства по высоте. Для достижения таких показателей компания Supermicro сделала акцент на традиционной, хоть и не самой быстрой, шине PCI Express.
Благодаря этому разработчикам SYS-322GB-N удалось увеличить количество полноразмерных двухслотовых ускорителей до 10, а при использовании плат с одинарной толщиной — до 18. Этого должно быть достаточно для выполнения сложных LLM-сценариев или для одновременного отображения картинки на 64 мониторах с общим разрешением 4680 × 12 960 пикселей.
Компания пока не раскрывает информацию о том, какие ускорители поддерживает новинка, упоминая только NVIDIA и AMD. Если говорить о NVIDIA, то, скорее всего, речь идёт об ускорителях L4, которые являются универсальными и обладают хорошей производительностью: 242 терафлопс в формате FP16 и 485 TOPS в режиме INT8.
Таким образом, 18 ускорителей могут обеспечить максимум 4,35 петафлопс или более 8,7 петаопс. Кроме того, L4 способен обрабатывать 130 видеопотоков формата AV1 с разрешением 720p30 и имеет 24 гигабайта видеопамяти с пропускной способностью 300 гигабайт в секунду.
До конца не понятно, как в устройстве реализована поддержка PCI Express. Учитывая наличие двух процессоров Intel Xeon 6900, их суммарных 192 линий PCIe недостаточно для обеспечения 20 слотов x16. Вероятно, система переключает слоты в режим x8, однако, возможно, используются современные коммутаторы PCIe 5.0, такие как XConn Apollo.
Сервер поддерживает до 6 ТБ оперативной памяти, включая модули MRDIMM DDR5-8800. Дисковая подсистема может вмещать 14 накопителей NVMe в формате E1.S или 6 традиционных SSD в формате U.2. С учётом энергопотребления современных двухслотовых графических процессоров, система питания может обеспечивать мощность около 5,5 кВт.
Новинку продемонстрируют на выставке MWC Las Vegas в павильоне 518. Там же Supermicro покажет другие серверные продукты, включая серверы серии X14 на процессорах Intel Xeon 6 и AMD EPYC 8004.
По материалам:
servernews
