Компания Yotta Data Services подписала соглашение о сотрудничестве для развертывания облачной платформы Shakti Cloud, которая станет самой высокопроизводительной инфраструктурой для искусственного интеллекта на базе GPU в Индии. Shakti Cloud будет использоваться для решения сложных задач, связанных с искусственным интеллектом, и станет доступной для всех заинтересованных сторон.
По условиям соглашения, Yotta приобретет большую партию ускорителей вычислений NVIDIA H100 для использования в своей облачной инфраструктуре Shakti Cloud. К январю 2024 планируется установить 4096 ускорителей, к июню 2024 — 16384, а к концу 2025 года общее количество ускорителей в инфраструктуре Yotta составит 32768.
Yotta развернет первый кластер Shakti Cloud с 16 384 ускорителями в своем дата-центре NM1, который является крупнейшим дата-центром класса Tier IV в Азии и расположен в Нави Мумбаи, штат Махараштра, Индия. Они также создадут кластер аналогичного размера в своем новейшем дата-центре D1 гиперскейла уровня в Грейтер Нойде, недалеко от Дели, что в общей сложности составит 32 768 ускорителей и обеспечит вычислительную мощность 16 эксафлопс для задач ИИ.
Yotta Shakti Cloud планирует предоставлять услуги Platform as a Service (PaaS), которые позволят клиентам обучать большие языковые модели, запускать ресурсоемкие задачи ИИ и выполнять другие рабочие нагрузки на базе облачной инфраструктуры. Это может помочь удовлетворить растущий спрос на высокопроизводительные вычисления (High Performance Computing, HPC) со стороны исследовательских лабораторий, корпоративных пользователей и стартапов, занимающихся разработкой и исследованием в области искусственного интеллекта.
Yotta также планирует использовать решения NVIDIA Infiniband для создания GPU-кластеров, которые будут поддерживать масштабные проекты, связанные с искусственным интеллектом, включая обучение и инференс крупных ИИ-моделей. Это партнерство поможет Индии укрепить свои позиции на быстрорастущем мировом рынке искусственного интеллекта.
Источник servernews