Во время конференции Worldwide Developer Conference (WWDC), которая состоялась в понедельник, компания Apple сообщила, что её серверы на собственных чипах и операционной системе используются для новых ИИ-сервисов Apple Intelligence. Хотя The Register отмечает, что компания не упоминала напрямую процессоры или операционные системы и никогда не подтверждала слухи о разработке собственных ИИ-серверов, ссылки на эти компоненты были разбросаны по презентациям на WWDC.
Новые функции основаны на Apple Private Cloud Compute — серверной экосистеме, где IT-гигант использует крупные ИИ-модели, которые решают некоторые задачи лучше, чем компактные модели на пользовательских устройствах. В компании утверждают, что Private Cloud Compute использует мощные и безопасные кастомные серверы в своих центрах обработки данных. Также упоминается термин «вычислительный узел», но нет точной информации о том, является ли он синонимом слова «сервер».
Отмечается, что облачные ресурсы используют те же аппаратные технологии безопасности, что и, например, iPhone, включая Secure Enclave и Secure Boot. Серверы работают на новой безопасной операционной системе на базе iOS и macOS, в которой отсутствуют некоторые административные компоненты. Телеметрия сведена к минимуму, что важно для работы облака. Таким образом, доступ к данным имеет только пользователь, даже системные администраторы не смогут получить доступ.
Если возможностей смартфона или планшета будет недостаточно для определённой ИИ-задачи, Apple определит минимальный объём данных, необходимый для решения этой задачи, и отправит его в зашифрованном виде в облако. В облаке для каждой такой задачи будет создан зашифрованный анклав, который после обработки данных и отправки результата пользователю (также с шифрованием) будет полностью удалён. Таким образом, исходный контент никогда не покинет устройство пользователя, а его отслеживание и расшифровка будут затруднены.
Уже сейчас в своих облаках Arm-чипы AWS, Google, Oracle и Microsoft. По соотношению цена/производительность они часто превосходят чипы Intel или AMD, особенно при выполнении некоторых задач, включая инференс, поэтому логично, что Apple также использует такие решения.
По материалам:
servernews
