Компания Acrab, специализирующаяся на создании вычислительной инфраструктуры для агентного ИИ, анонсировала два ключевых продукта: однокристальную систему (SoC) GELIX 1 и персональную платформу Agent Box на базе собственной вычислительной платформы.
С развитием ИИ фокус смещается с генерации ответов на решение конкретных задач: агентам нужно учитывать контекст, фиксировать предпочтения пользователей и в реальном времени управлять инструментами и устройствами. Локальная реализация таких функций даёт ряд преимуществ — ускоряет реакцию системы, позволяет держать конфиденциальные данные под контролем пользователя и сохранять работоспособность даже при слабом или нестабильном соединении с облаком.
Раньше модели с 100 миллиардами параметров могли работать только в облачной среде. GELIX 1 призван изменить эту ситуацию, сделав возможным запуск столь масштабных ИИ‑моделей в локальных, полностью контролируемых пользователем системах. На базе этого чипа создан Agent Box — компактный высокопроизводительный персональный ИИ‑центр. Он поддерживает локальный вывод больших языковых моделей, имеет постоянную память, обеспечивает мультимодальное взаимодействие и оркестровку агентов. Agent Box позиционируется как разовое вложение, которое в долгосрочной перспективе экономит средства: пользователь избавляется от необходимости оплачивать каждый запрос к облачному ИИ в виде токенов. Так ИИ превращается из инструмента для эпизодических запросов в постоянного помощника, органично встраиваемого в рабочие процессы и повседневную жизнь.
По словам доктора Кена Фуа, генерального директора Acrab, если генеративный ИИ помогал находить ответы, то агентный ИИ призван помогать доводить дела до конца. Размещение моделей с 100 миллиардами параметров на устройстве размером с обычный настольный компьютер — серьёзный инженерный вызов. GELIX 1 спроектирован так, чтобы обеспечить нужную производительность, достаточную пропускную способность памяти и быстрый локальный логический вывод. Agent Box демонстрирует, как эти технические возможности можно превратить в удобный пользовательский интерфейс.
Agent Box фактически представляет собой персональный постоянно работающий ИИ‑центр обработки данных — для дома и рабочего места. Он даёт доступ к интеллектуальным функциям, не отрывая их от пользователя, его данных и физического окружения. Это пример того, как производители устройств могут интегрировать вычислительную платформу Acrab в полноценные агентные ИИ‑решения.
В отличие от традиционного пути эволюции ПК (увеличение скорости процессоров, размеров экранов и объёма памяти), Agent Box предлагает принципиально иной подход: это первая система, созданная не для запуска программ, а для размещения и поддержки интеллектуальных функций. В ней объединены локальная языковая модель и модель компьютерного зрения, реализованы мультимодальные интерфейсы, постоянная память и уровень оркестровки, способный распознавать цели, разбивать задачи на подзадачи и координировать действия между агентами, системами и подключёнными устройствами. Все данные и «воспоминания» пользователя хранятся локально, оставаясь конфиденциальными; при этом система становится всё более адаптивной по мере накопления контекста. Вычислительная архитектура Acrab разработана с нуля, чтобы одновременно обеспечивать высокую производительность локального ИИ, удобство использования, а также экономическую и энергетическую эффективность.
GELIX 1 — это первая однокристальная система Acrab для периферийного ИИ, произведённая по 5‑нанометровому техпроцессу. Её особенность — не набор отдельных вычислительных компонентов, а единая архитектура, объединяющая ресурсы CPU, GPU и NPU с унифицированной памятью, оптимизированной под большие ИИ‑модели и агентные нагрузки. Чип оснащён 20‑ядерным Arm‑процессором и многоядерным нейронным процессором, пропускная способность унифицированной памяти достигает 273 ГБ/с. Такая конфигурация рассчитана на локальное развёртывание открытых моделей ИИ с числом параметров до 100 миллиардов, при эффективном распределении нагрузки между CPU, GPU и NPU.
Ключевой приоритет при разработке GELIX 1 — минимизация задержки до начала ответа модели, особенно при работе с длинными промптами и большими контекстными окнами, при этом энергопотребление остаётся на уровне, позволяющем устройству работать круглосуточно. Тестовые замеры показали, что GELIX 1 достигает скорости предварительного заполнения 1416,8 токенов в секунду на конфигурации Gemma 26B A4B (с кэш‑памятью 40K KV и входным потоком 10K токенов). Для сравнения: на Mac Mini M4 Pro этот показатель составляет 188,9 токенов в секунду — то есть GELIX 1 быстрее примерно в 7,5 раз. Таким образом, один чип способен стать универсальной высокопроизводительной платформой для множества сценариев применения.
Acrab не ограничивается аппаратной частью: компания создала полный стек решений — от чипа до готовых приложений. В него входят оптимизированная среда выполнения, инструменты для разработчиков, компоненты агентной операционной системы, эталонные проекты и приложения, которые позволяют устройствам понимать контекст, сохранять память и координировать действия в реальном мире.
Agent Box — первый шаг к более масштабной цели Acrab: построить горизонтальную вычислительную платформу для агентного ИИ, которую можно будет внедрять в широкий спектр периферийных устройств и интеллектуальных систем. Локальная обработка значительной части ИИ‑нагрузок снижает зависимость от облачных сервисов, сокращает регулярные расходы на передачу и обработку данных, а также устраняет задержки, связанные с отправкой запросов на удалённые серверы. При этом облачные ресурсы остаются доступными для тех задач, где их применение целесообразно, позволяя найти оптимальный баланс между локальной и облачной обработкой.
В планах Acrab — сотрудничество с производителями и разработчиками устройств для интеграции своей платформы в сетевые хранилища с ИИ, персональные компьютеры, интеллектуальные транспортные средства, а также промышленные и сервисные роботы. Agent Box служит наглядным примером того, как аппаратные и программные компоненты Acrab могут быть объединены в законченный продукт. Компания стремится предоставить партнёрам и разработчикам полный набор инструментов — специализированные ИИ‑процессоры, полноценное ПО и типовые проекты агентов для разных сценариев. Это позволит ускорить вывод на рынок интеллектуальных ИИ‑продуктов в различных отраслях.
Как отмечает доктор Фуа, цель Acrab — дать производителям и разработчикам надёжную основу для внедрения агентного интеллекта в разнообразные продукты и среды. Agent Box показывает текущие возможности технологии, а GELIX 1 вместе с полнофункциональной платформой рассчитаны на поддержку гораздо более широкой экосистемы устройств и приложений.
По материалам:
techpowerup