СодержаниеОборудование
Оборудование
Железо и бюджеты
Если данные нельзя отправлять в облако или нагрузка стабильно высокая — пора считать своё железо. Ориентиры по ускорителям, бюджетным уровням и выбору «облако vs on-prem». Цены ориентировочные (июль 2026).
Ускорители и станции
| Ускоритель | Память | Цена новой | Альтернатива | Потянет (Q4-веса) |
|---|---|---|---|---|
| NVIDIA RTX 4090Старт / рабочая станция | 24 ГБ | ≈ $1 800–2 200 | б/у ≈ $1 300 | Модели 7–14B в Q4; 70B — только с оффлоадом и медленно |
| NVIDIA RTX 5090Старт / рабочая станция | 32 ГБ | ≈ $2 500–3 000 | — | Модели 14–32B в Q4; 70B с оффлоадом |
| NVIDIA RTX 6000 AdaПрофессиональная | 48 ГБ | ≈ $6 500–8 000 | б/у ≈ $4 500 | Модели 32–70B в Q4; MoE ~120B с оффлоадом |
| NVIDIA L40SПрофессиональная | 48 ГБ | ≈ $7 000–9 000 | аренда ≈ $1.5–2/час | Модели 32–70B в Q4; хорош для инференса с batching |
| NVIDIA A100 80GBДата-центр | 80 ГБ | ≈ $12 000–15 000 | аренда ≈ $1.5–2.5/час | Модели 70B в Q4/Q5; MoE ~120–200B; дообучение |
| NVIDIA H100 80GBДата-центр | 80 ГБ | ≈ $25 000–35 000 | аренда ≈ $2.5–4/час | Всё, что A100, но в 2–3 раза быстрее; крупные MoE |
| Mac Studio (M3 Ultra)Apple Silicon | 512 ГБ | ≈ $7 000–12 000 | — | Огромные модели 70–200B+ в Q4 благодаря unified memory |
Бюджетные уровни
Старт без железа
$0 разово
Ничего не покупаете — работаете через облачные API
Потянет: Чат поддержки, RAG, контент, документы. Почти любой SMB-сценарий на старте.
Облако: Это и есть облако: платите только за токены, от $30–200/мес.
Локальная станция
$2 000–8 000
1–2× RTX 4090/5090 или Mac Studio (M3 Ultra)
Потянет: Open-weight модели 7–70B локально: приватный ассистент, код, документы без отправки наружу.
Облако: Альтернатива — аренда GPU ≈ $1–2/час, окупается при загрузке < 6–8 ч/день.
Сервер для команды
$10 000–25 000
2–4× RTX 6000 Ada / L40S или 1–2× A100 80GB
Потянет: Крупные open-weight и MoE-модели на команду 5–30 человек, свой инференс-эндпоинт.
Облако: Сравните с managed-инференсом: при 24/7 загрузке своё железо окупается за 8–14 мес.
Свой кластер
$40 000+
Несколько H100/A100, серверное шасси, охлаждение, ИБП
Потянет: Обучение/дообучение, высокий трафик, строгие требования к данным и SLA.
Облако: Для SMB почти всегда дешевле облако или гибрид; свой кластер — при регуляторных ограничениях.
Идите в облако, если
- Трафик нестабилен или вы только проверяете гипотезу
- Нет инженера, который будет обслуживать железо
- Нужны фронтран-модели (они всё равно только в облаке)
Идите on-prem, если
- Данные нельзя отправлять наружу (регуляторика, NDA)
- Стабильная высокая загрузка 24/7 — своё железо окупается
- Хотите фиксировать стоимость и не зависеть от цен на токены
Золотое правило: начинайте с облака, считайте стоимость на реальных объёмах, и только потом решайте, покупать ли железо. Покупка GPU «про запас» — самая частая дорогая ошибка SMB.