Cisco представила сервер высокой плотности UCS C885A M8, разработанный для работы с искусственным интеллектом. Этот сервер подходит для обучения больших языковых моделей (LLM), точной настройки моделей, инференса, RAG и других задач в сфере ИИ.
Сервер выполнен в форм-факторе 8U. В зависимости от модели используются два процессора AMD EPYC 9554 поколения Genoa (64 ядра, 128 потоков, 3,1–3,75 ГГц, 360 Вт) или два чипа EPYC 9575F семейства Turin (64 ядра, 128 потоков, 3,3–5,0 ГГц, 400 Вт). Есть 24 слота для модулей DDR5-600 с общим объёмом 2,3 ТБ. В самой продвинутой конфигурации можно использовать восемь ускорителей NVIDIA H100, H200 или AMD Instinct MI300X. Каждый ускоритель оснащён сетевым адаптером NVIDIA ConnectX-7 или NVIDIA BlueField-3 SuperNIC. Также в состав сервера входит DPU BlueField-3. Слот расширения имеет схему 5 × PCIe 5.0 x16 FHHL, а также 8 × PCIe 5.0 x16 HHHL и 1 × OCP 3.0 PCIe 5.0 x8 (для карты X710-T2L 2x10G RJ45 NIC).
Новый сервер оснащён загрузочным SSD на 1 ТБ (M.2 NVMe) и 16 накопителями U.2 NVMe SSD по 1,92 ТБ каждый. Также установлены два блока питания на 2700 Вт и шесть блоков на 3000 Вт с возможностью горячей замены.
Cisco также продемонстрировала инфраструктурные стеки AI POD, разработанные для конкретных областей применения искусственного интеллекта в разных отраслях. Эти стеки объединяют вычислительные узлы, сетевые компоненты, системы хранения данных и управления. Утверждается, что они обеспечивают хорошую масштабируемость и высокую производительность при выполнении задач, связанных с искусственным интеллектом.
По материалам:
servernews
