Apple bekor turgan Macʼlarni sunʼiy intellekt uchun ishlaydigan «minionlar»ga aylantirdi
Shu tariqa kompaniya inferensning ayrim vazifalarini tezroq hal qilmoqda
Apple Minions tizimi Mac kompyuterlarining boʻsh turgan grafik protsessorlarini birlashtirib, sunʼiy intellekt ish yuklamalarini ular oʻrtasida taqsimlaydi. Uning vazifasi yirik modellarni ishga tushirish bilangina cheklanmay, kompaniya ichidagi foydalanilmayotgan resurslardan samaraliroq foydalanishdan iborat.
Mac mini va Mac Studio Thunderbolt 5 orqali RDMA yordamida klasterlarga birlashtirilishi mumkin. Bu bir nechta qurilmaning hisoblash quvvati va xotirasini jamlash, jumladan, bitta kompyuterga sigʻmaydigan modellar bilan ishlash imkonini beradi.
Platforma tarkibiga Minion Server, PostgreSQL Metadata Store, Minion Executor va Minion Watchdog kiradi. Server soʻrovlarni qabul qilib, ularni kichik vazifalarga ajratadi, Executor inferensni ishga tushirib, maʼlumotlarni S3’da saqlaydi, Watchdog esa nosozliklar yuz berganda topshiriqlarni boshqa Macʼlarga qayta taqsimlaydi. Ish jarayoni Grafana panellari orqali monitoring qilinadi. Nvidiaʼdan farqli ravishda, Apple yirik modellar bilan ishlashdagi oʻtkazish qobiliyati va past kechikishlarga emas, foydalanish uchun boʻsh resurslarning mavjudligiga urgʻu bermoqda.
