Компания Cerebras анонсировала выпуск усовершенствованной версии своей высокопроизводительной микросхемы Wafer Scale Engine (WSE), которая стала третьим поколением продукта. Несмотря на то, что физические размеры чипа остались прежними, его технические характеристики значительно улучшены.
При производстве этой микросхемы задействуется полностью вся 300-мм полупроводниковая пластина, в результате чего получается чип с площадью более 46000 квадратных миллиметров.
WSE-3 продолжает использовать этот подход, поскольку индустрия еще не перешла на 400-мм пластины. В результате, площадь микросхемы осталась такой же, как у двух предыдущих версий, но за счет перехода на 5-нм техпроцесс (с 7-нм) параметры стали еще более впечатляющими. Однако, по сравнению со вторым поколением, рост производительности не так велик, как при переходе от первого ко второму.
Таким образом, если WSE-1 обладает 400 000 ядрами, а WSE-2 — уже 800 000, то WSE-3 представляет 900 000 ядер. Количество транзисторов возросло значительно: с 2.6 до 4 триллионов. Объем памяти расширился с 40 до 44 гигабайтов, а пропускная способность увеличилась с 20 до 21 PB/s. Все это обеспечивает производительность искусственного интеллекта в 125 PFlops и может обучать модели с 24 триллионами параметров.
Как и в прошлой версии, компания Cerebras предлагает суперкомпьютер под названием CS-3. Он состоит из одной микросхемы WSE-3 с дополнительным охлаждением, накопителями и блоком питания. Эта установка, по утверждению компании, способна обучаться в 10 раз быстрее, чем модели GPT-4 и Gemini. Уже сейчас известно, что 64 суперкомпьютера CS-3 будут использованы для создания суперкомпьютера “Condor Galaxy 3”, который обеспечит вычислительную мощность ИИ в 8 экзафлопс.
