NVIDIA анонсировала Project DIGITS — «персональный ИИ-суперкомпьютер», самую компактную аппаратную платформу на основе суперчипов Grace Blackwell. Эта система, предназначенная для исследователей искусственного интеллекта, специалистов по данным и студентов, поставляется с полным набором программного обеспечения для создания, настройки и вывода моделей ИИ. Благодаря этому можно локально разрабатывать и улучшать модели, а затем развёртывать их в облаке или центре обработки данных. Project DIGITS станет доступен в мае по цене от 3000 долларов США.
Project DIGITS оборудован чипом GB10 с производительностью FP4 до 1 петафлопса, созданным в сотрудничестве с MediaTek. В состав GB10 входит ускоритель Blackwell, который связан через NVLink-C2C с 20-ядерным ARM-процессором Grace, 128 ГБ унифицированной когерентной памяти LPDDR5x и 4-терабайтным NVMe SSD. Также имеются адаптеры Wi-Fi, Bluetooth и Ethernet.
Компания утверждает, что Project DIGITS сможет запускать модели с максимальным объёмом до 200 миллиардов параметров. При использовании двух таких систем, связанных через NIC ConnectX, можно работать с моделями, размер которых достигает 405 миллиардов параметров.
Новинка работает под управлением NVIDIA DGX OS — специальной версии операционной системы Ubuntu Linux, оптимизированной для работы с искусственным интеллектом. Пользователи Project DIGITS получат доступ к обширной библиотеке программного обеспечения NVIDIA AI, включая инструменты для разработки, оркестровки, фреймворки и модели, доступные в NVIDIA NGC и на NVIDIA Developer Portal. Разработчики смогут настраивать модели с помощью NVIDIA NeMo, использовать NVIDIA RAPIDS для работы с данными и применять популярные программные платформы, такие как PyTorch, Python и Jupyter notebooks.
Чтобы создавать приложения искусственного интеллекта, можно использовать NVIDIA Blueprints и микросервисы NVIDIA NIM, доступные в рамках программы NVIDIA Developer Program. Благодаря общей архитектуре Grace Blackwell компании и независимые разработчики смогут создавать прототипы, настраивать и тестировать модели ИИ на локальных устройствах Project DIGITS, а затем разворачивать их в NVIDIA DGX Cloud, облачных экземплярах или собственной инфраструктуре центра обработки данных.
По материалам:
servernews
