Глава OpenAI недоволен, что пользователи держат оперативную память у себя, а не отдают её дата-центрам
Сэм Альтман заявил, что запуск моделей искусственного интеллекта на личных компьютерах не имеет смысла в условиях ограниченных поставок чипов памяти.
По его мнению, доступное оборудование эффективнее использовать через облачные сервисы крупных провайдеров.
Энтузиасты запускают open-source-модели на своём железе, чтобы меньше зависеть от облачных сервисов. Альтман считает такой подход неэффективным: ресурса и так мало, а используется он редко.
«С точки зрения глобального распределения ресурсов довольно плохо, что у каждого в компьютере лежит часть ограниченного мирового запаса DRAM, которая работает всего 5% времени», — заявил Альтман.
По его мнению, память разумнее загружать в облачных дата-центрах: там одни и те же мощности обслуживают множество клиентов.
Заявление прозвучало на фоне дефицита памяти. Из-за ИИ-бума производители переключаются на серверные чипы, и DRAM дорожает для обычных покупателей. Поэтому многие восприняли слова Альтмана как призыв отдать дефицитное железо крупным компаниям.
