Начать с модели нагрузки
Обучение, инференс, HPC и смешанная загрузка требуют разных профилей памяти, сети и хранения. Сначала фиксируют модель, контекст, batch, точность и SLA.
Считать систему целиком
GPU — только часть результата. CPU, RAM, NVMe, fabric, storage, питание, охлаждение и программный стек влияют на полезную производительность.
Проверить площадку
До закупки подтверждают мощность на стойку, тепловой бюджет, резервирование, кабельную карту и доступ для обслуживания.