Реклама
Реклама в Telegram для вашего бизнеса · TCA Media
Реклама
Реклама в Telegram для бизнеса · TCA Media
ИИ

Apple превратила простаивающие Mac в «миньонов», чтобы те работали на ИИ

Так компания быстрее решает отдельные задачи инференса

16 октября, 17:24Oʻzbekcha
apple.com — Apple

Система Apple Minions объединяет свободные графические процессоры компьютеров Mac и распределяет между ними рабочие нагрузки искусственного интеллекта. Её задача — эффективнее использовать незадействованные ресурсы внутри компании, а не только запускать крупные модели.

Mac mini и Mac Studio поддерживают объединение в кластеры через RDMA по Thunderbolt 5. Это позволяет суммировать вычислительные мощности и память нескольких устройств, в том числе для моделей, которые не помещаются на одном компьютере.

В состав платформы входят Minion Server, PostgreSQL Metadata Store, Minion Executor и Minion Watchdog. Сервер принимает запросы и делит их на подзадачи, Executor запускает инференс и сохраняет данные в S3, а Watchdog при сбоях переназначает задания на другие Mac. Мониторинг работы ведётся через панели Grafana. В отличие от Nvidia, Apple делает акцент на доступности свободных ресурсов, а не на пропускной способности и низких задержках при работе с крупными моделями.

Реклама
Реклама в Telegram для бизнеса · TCA Media

Читайте также