Amazon бросает вызов Nvidia с помощью нового инструмента TorchNeuron
Инструмент призван уменьшить зависимость разработчиков от технологий Nvidia
TorchNeuron работает с PyTorch: чтобы перенести приложение на чип Trainium, разработчику достаточно изменить одну строку конфигурации, без переписывания кода. Amazon указывает, что около 85% AI-приложений создаются на базе этого инструмента.
PyTorch изначально разработала Facebook, а с 2022 года проект входит в Linux Foundation. Nvidia годами развивала CUDA — программную инфраструктуру для работы приложений на её чипах, поэтому оборудование компании стало для пользователей PyTorch вариантом по умолчанию. Перенос приложений также поддерживают чипы AMD и Apple.
Amazon планирует передать TorchNeuron в открытый доступ на конференции PyTorch 20 октября. Компания также предлагает изменения для самого PyTorch, чтобы уменьшить привязку фреймворка к конкретному оборудованию. При этом эффект от такого подхода для разработчиков и стоимость решений ещё предстоит оценить.
