Илон Маск хочет быть первым в разработке нейросетей нового поколения. Чтобы достичь этой цели, он собирается удвоить размер ИИ-кластера xAI Colossus, в котором сейчас установлено 100 тысяч графических процессоров Nvidia H100.
Информация поступила от компании Nvidia, и позднее Илон Маск подтвердил её в своём аккаунте в социальной сети X, сообщив, что ИИ-суперкомпьютер Colossus скоро будет содержать 200 тысяч ускорителей Nvidia H100 и H200, которые будут размещены в здании площадью более 7000 квадратных метров в Мемфисе, штат Теннесси. Особенность суперкомпьютера Colossus заключается в том, что сотрудникам xAI удалось собрать и запустить его за очень короткий срок. Обычно на создание суперкомпьютеров уходят годы, однако, согласно заявлению Маска, весь процесс от начала до конца занял 122 дня.
Миллиардер потратил не менее 3 миллиардов долларов на создание Colossus, так как он состоит из 100 тысяч ускорителей Nvidia H100, стоимость каждого из которых составляет примерно 30 тысяч долларов. Сейчас Маск планирует обновить кластер, используя более производительные ускорители H200 стоимостью около 40 тысяч долларов каждый. В итоге Маску придётся потратить ещё несколько миллиардов долларов, не считая затрат на электроэнергию для поддержания работы кластера. Конечная цель бизнесмена — увеличить количество ускорителей до 300 тысяч к лету следующего года, и для дальнейшей модернизации планируется использовать новейшие Nvidia Blackwell B200.
Маск делает ставку на ИИ-ускорители Nvidia для дальнейшего развития чат-бота Grok и других нейросетевых технологий. На прошлой неделе в интернете было опубликовано видео, на котором показан ИИ-кластер xAI изнутри, где видны многочисленные стойки с ускорителями Nvidia.
По материалам:
3dnews
