ИИ-инфраструктура 2026: от Jetson до DGX Spark
Заказчики в 2026 году редко спрашивают «какую видеокарту купить». Чаще три разных задачи: модель должна считать на объекте без облака, инженеру нужна станция, чтобы не ждать очередь в кластере, или уже пора собирать стойку на несколько GPU. Мы разложили это по полкам каталога «ИИ — инфраструктура» — без обещания, что одна коробка закрывает все три случая.
Edge: когда ролик нельзя выгрузить в интернет
Камера на проходной, киоск в музее, линия на заводе — поток не должен уезжать в чужой ЦОД. Здесь считают задержку и питание, а не «терафлопсы в слайде».
NVIDIA Jetson AGX Orin — плата, на которой запускают TensorRT и DeepStream на месте. Для пилота берём Developer Kit 64 GB, промышленный тираж собираем уже не из отладочной коробки.
Сервер Edge AI на NVIDIA L4 — когда одной платы мало: несколько потоков, диски, стык с существующей сетью. Карточка — Edge AI Server 1× L4.
На этом уровне чаще ломается охлаждение и политика обновления моделей, а не «не хватило TFLOPS».
NVIDIA Jetson AGX Orin — плата, на которой запускают TensorRT и DeepStream на месте. Для пилота берём Developer Kit 64 GB, промышленный тираж собираем уже не из отладочной коробки.
Сервер Edge AI на NVIDIA L4 — когда одной платы мало: несколько потоков, диски, стык с существующей сетью. Карточка — Edge AI Server 1× L4.
На этом уровне чаще ломается охлаждение и политика обновления моделей, а не «не хватило TFLOPS».
Станция, пока кластер ещё не заказан
ML-инженеру нужна машина, где модель отлаживают до отправки в стойку. Два полюса, которые у нас реально стоят в каталоге:
Рабочая станция на RTX 6000 Ada — CAD, рендер и fine-tune средних моделей. Конфигурация в каталоге.
NVIDIA DGX Spark — компактная станция на Grace Blackwell для локального прототипа, без обязательного доступа в дата-центр. Карточка DGX Spark.
Шум, розетка кабинета и VLAN — это часть поставки, не «потом разберётесь с сисадмином».
Рабочая станция на RTX 6000 Ada — CAD, рендер и fine-tune средних моделей. Конфигурация в каталоге.
NVIDIA DGX Spark — компактная станция на Grace Blackwell для локального прототипа, без обязательного доступа в дата-центр. Карточка DGX Spark.
Шум, розетка кабинета и VLAN — это часть поставки, не «потом разберётесь с сисадмином».
Кластер: когда одна GPU уже не влезает
Несколько ускорителей, NVLink, быстрая сеть, оркестрация. Пример узла — 4× NVIDIA H100. На бумаге это «четыре карты». В зале — PDU, охлаждение ряда и мониторинг. Без этого неделя обучения обрывается на второй день.
Цифры по картам берём из карточек каталога, а не из чужого слайда. Если конфигурации нет в каталоге — так и говорим, не рисуем H100 «из прайса интегратора».
Цифры по картам берём из карточек каталога, а не из чужого слайда. Если конфигурации нет в каталоге — так и говорим, не рисуем H100 «из прайса интегратора».
ИИ-инфраструктура — это не «купить видеокарту». Сначала ворклоад: inference, fine-tune или train. Потом Jetson, L4, RTX или H100. Не наоборот
Инженер-проектировщик MMVS
Что спросить, прежде чем выписывать счёт
- Какая задержка на inference допустима и где крутится модель — на объекте или в своей серверной?
- Данные остаются on-prem или можно гибрид?
- Нужен реестр и отечественный контур — или достаточно NVIDIA как есть?
- Кто ставит драйверы, CUDA и патчи через полгода?
Конфигурации — в разделе ИИ и соседнем серверном оборудовании. Офис MMVS — Екатеринбург, ул. Комсомольская, 37. Пишите через контакты.
