iiPulse

Спецвыпуск «Модели-2026»№ 7 · обновлено 22 июля 2026 г.

СодержаниеОборудование

Оборудование

Железо и бюджеты

Если данные нельзя отправлять в облако или нагрузка стабильно высокая — пора считать своё железо. Ориентиры по ускорителям, бюджетным уровням и выбору «облако vs on-prem». Цены ориентировочные (июль 2026).

Ускорители и станции

УскорительПамятьЦена новойАльтернативаПотянет (Q4-веса)
NVIDIA RTX 4090Старт / рабочая станция24 ГБ≈ $1 800–2 200б/у ≈ $1 300Модели 7–14B в Q4; 70B — только с оффлоадом и медленно
NVIDIA RTX 5090Старт / рабочая станция32 ГБ≈ $2 500–3 000—Модели 14–32B в Q4; 70B с оффлоадом
NVIDIA RTX 6000 AdaПрофессиональная48 ГБ≈ $6 500–8 000б/у ≈ $4 500Модели 32–70B в Q4; MoE ~120B с оффлоадом
NVIDIA L40SПрофессиональная48 ГБ≈ $7 000–9 000аренда ≈ $1.5–2/часМодели 32–70B в Q4; хорош для инференса с batching
NVIDIA A100 80GBДата-центр80 ГБ≈ $12 000–15 000аренда ≈ $1.5–2.5/часМодели 70B в Q4/Q5; MoE ~120–200B; дообучение
NVIDIA H100 80GBДата-центр80 ГБ≈ $25 000–35 000аренда ≈ $2.5–4/часВсё, что A100, но в 2–3 раза быстрее; крупные MoE
Mac Studio (M3 Ultra)Apple Silicon512 ГБ≈ $7 000–12 000—Огромные модели 70–200B+ в Q4 благодаря unified memory

Бюджетные уровни

Старт без железа

$0 разово

Ничего не покупаете — работаете через облачные API

Потянет: Чат поддержки, RAG, контент, документы. Почти любой SMB-сценарий на старте.

Облако: Это и есть облако: платите только за токены, от $30–200/мес.

Локальная станция

$2 000–8 000

1–2× RTX 4090/5090 или Mac Studio (M3 Ultra)

Потянет: Open-weight модели 7–70B локально: приватный ассистент, код, документы без отправки наружу.

Облако: Альтернатива — аренда GPU ≈ $1–2/час, окупается при загрузке < 6–8 ч/день.

Сервер для команды

$10 000–25 000

2–4× RTX 6000 Ada / L40S или 1–2× A100 80GB

Потянет: Крупные open-weight и MoE-модели на команду 5–30 человек, свой инференс-эндпоинт.

Облако: Сравните с managed-инференсом: при 24/7 загрузке своё железо окупается за 8–14 мес.

Свой кластер

$40 000+

Несколько H100/A100, серверное шасси, охлаждение, ИБП

Потянет: Обучение/дообучение, высокий трафик, строгие требования к данным и SLA.

Облако: Для SMB почти всегда дешевле облако или гибрид; свой кластер — при регуляторных ограничениях.

Идите в облако, если

  • Трафик нестабилен или вы только проверяете гипотезу
  • Нет инженера, который будет обслуживать железо
  • Нужны фронтран-модели (они всё равно только в облаке)

Идите on-prem, если

  • Данные нельзя отправлять наружу (регуляторика, NDA)
  • Стабильная высокая загрузка 24/7 — своё железо окупается
  • Хотите фиксировать стоимость и не зависеть от цен на токены

Золотое правило: начинайте с облака, считайте стоимость на реальных объёмах, и только потом решайте, покупать ли железо. Покупка GPU «про запас» — самая частая дорогая ошибка SMB.