Специалисты компании HYPERPC успешно завершили уникальный проект — создали сверхмощную рабочую станцию для работы с нейросетями, большими языковыми моделями (LLM) и большими объёмами данных. Эта новинка обладает производительностью на уровне промышленных решений, но при этом она заключена в компактный корпус.
Раньше для полноценной работы с крупными профессиональными нейросетями и LLM приходилось использовать специализированные промышленные решения. Они дают возможность использовать большие объёмы оперативной памяти, что важно для глубокого обучения нейросетей. Одно из условий для выполнения таких задач — размещение массива данных в оперативной памяти для обеспечения высокой скорости работы.
В 2024 году один из клиентов компании HYPERPC обратился в дубайский офис с просьбой разработать идеальное решение на базе рабочей станции с максимальной вместимостью памяти, серверными процессорами и двумя профессиональными видеокартами. Эта система должна обеспечивать комфортную, быструю и надёжную работу с нейросетями и LLM, включая глубокое обучение.
Во время выполнения проекта специалисты HYPERPC провели масштабную работу над проектированием рабочей станции, разработкой структуры и подбором компонентов с идеальной совместимостью. Это было необходимо не только для завершения проекта, но и для обеспечения стабильной работы в условиях продолжительных пиковых нагрузок.
Усилия команды HYPERPC оправдались, и результат превзошёл ожидания: было разработано уникальное решение на базе HYPERPC G10 PRO HYDRA, обеспечивающее высокую производительность при работе с нейросетями, LLM и большими данными. Эта система обладает характеристиками, которые ещё недавно считались недостижимыми для настольных систем:
- два серверных процессора AMD EPYC 9754 с 128 ядрами и 256 потоками каждый, работающие на частоте 2,25–3,1 ГГц;
- 6 Тбайт высокоскоростной оперативной памяти в виде 256-гигабайтных модулей Hynix DDR5-4800;
- две видеокарты NVIDIA RTX 6000 ADA Generation с 18 176 ядрами CUDA и 48 Гбайт памяти GDDR6;
- четыре сверхбыстрых SSD Sabrent Rocket 4 Plus по 8 Тбайт каждый, суммарной ёмкостью 32 Тбайт.
Производитель особенно подчёркивает уникальную систему жидкостного охлаждения, которая гарантирует эффективное рассеивание тепла для всех компонентов вне зависимости от уровня нагрузки и режима работы, даже при круглосуточной эксплуатации 24/7. Благодаря этой конфигурации были успешно выполнены все задачи и удовлетворены требования к настольной рабочей станции для глубинного обучения нейронных сетей, эффективной обработки больших объёмов данных и работы с LLM. Рабочая станция HYPERPC G10 PRO HYDRA — это профессиональный триумф специалистов HYPERPC и настоящий вычислительный гигант, обеспечивающий максимальный комфорт и непревзойдённую надёжность при решении самых сложных задач.
По материалам:
3dnews
