选型指南与 Pilot 工作表
GPU Pilot 需求与评分表:实用选型工作表
下载可编辑工作表,用于约定范围、比较配置,并决定停止、调整或扩容。这是评估方法,不是客户案例。
8×B300 节点租赁:如何比较完整报价
预留 B300 节点前,比较配置范围、分配方式、存储、网络与 Pilot 验收条件。附成本计算示例,不作为供应商报价。
推理 GPU 选型:先测试延迟与吞吐,再比较成本
使用模型、精度、上下文、并发和质量目标建立代表性推理测试,再把实测结果与透明的 GPU 预算连接起来。
使用完整系统的电力、散热、机架、NVLink、跨节点网络与存储要求规划 B300 部署,并严格区分 DGX、HGX 与 OEM 场景。
· Arvica Cloud · 分析与采购指南
B300 服务器包含 GPU、主机 CPU、系统内存、NVSwitch、网卡、NVMe、风扇与电源。设施规划必须使用所选服务器的额定输入与热规格。不能把 GPU TDP 简单相乘作为安全机架设计,产品家族名称也无法确定电源输入数量、电压、风量、重量或散热方式。
NVIDIA DGX B300 用户指南列出 14.5 kW 功耗、最大 49,476.054 BTU/小时散热、10 个机架单元,以及 PSU 设计的 12 个交流电源输入。这些数字描述的是 DGX B300,可用于量级规划,但不能作为 HGX B300 合作伙伴服务器或其他 OEM 实现的规格。
HGX 是由服务器合作伙伴集成的加速计算平台。CPU、主机内存、存储、网卡、机箱、电源与散热可在认证设计中变化。应获取具体 OEM 型号与版本、机架和供电图、热限制、线缆计划、固件矩阵与支持流程。若供应商为 HGX 服务器引用 DGX 数字,应在设施批准前要求系统专属文件。
应确认输入电压、供电类型、连接器与 PDU 要求、A/B 冗余行为、电路和机架限制、功率封顶支持、维护隔离,以及交换机与存储余量。还要审查一个或多个供电丢失后的行为;冗余不一定意味着性能完全不受影响。多节点部署应根据所选物料清单计算完整机架与设施负载,而不是只看单台服务器数字。
应把额定散热转换为覆盖入口条件、气流方向、冷热通道、回流风险、风扇故障行为、设施冗余与监控的站点设计。高密度系统可能超出传统服务器房假设。不同平台场景存在风冷与液冷 B300 级系统,不能从 GPU 名称推断散热方式,必须使用完整机架设计并获得当地设施工程批准。
规划每机架 kW 时还应同时考虑机架单元、静态与移动重量、地板承重、机箱深度、搬运与安装路径、线缆弯曲半径、PDU 放置及前后维护空间。服务器即使机架单元能放下,也可能不满足电力、重量或散热边界。多节点集群还需为网络交换机、存储与管理设备预留空间和电力。
NVIDIA 为 HGX B300 列出第五代 NVLink:GPU 间带宽 1.8 TB/s,8 卡平台 NVLink 交换总带宽 14.4 TB/s。这是节点内扩展网络。验收时应确认实际 8 卡拓扑与软件可见性,不要把内部 NVLink 域与用于存储、客户端及其他节点的以太网或 InfiniBand 端口混淆。
单节点外部网络承载数据、存储、管理与用户流量;达到 32 GPU 或更多时还可能承载同步集合通信。应明确 InfiniBand 或 RoCE/以太网、网卡型号与数量、链路速率、平面、交换拓扑、超卖比、路由、拥塞控制、光模块,以及与存储和管理的隔离。OEM 网卡布局各异,B300 标签无法回答这些问题。
应明确启动盘、本地数据集缓存、检查点空间、模型仓库、共享文件或对象存储、算力停止后的持久性、备份、导入与导出路径。除容量外还要规划吞吐与并发。多节点训练应验证检查点写入与数据集读取不会挤占计算网络或让 GPU 等待数据。
如果未来可能扩展到 32 或 64 GPU,应尽早判断首个节点的网卡、光模块、机架、电力、散热、存储与调度器能否纳入未来设计,并仅在扩展计划可信时预留交换端口与设施余量。兼容首节点可减少返工,但集群仍应由实测单节点利用率与扩展证据证明。
方案应列明具体系统、GPU SKU 与显存、CPU、内存、本地与外部存储、网卡、网络、机架与电气要求、散热方式、地点、租户模式、支持边界、期限、部署窗口与验收流程。Arvica 可为澳大利亚与亚太规划这些要素;具体可用性、配置、站点、价格与时间以书面方案为准,不能从本文推断。
NVIDIA 为 DGX B300 列出 14.5 kW。HGX 合作伙伴与 OEM 系统可能不同,最终设计必须使用所选完整系统规格。
不一定。散热取决于完整平台与机架设计,应确认所选服务器的方式与设施要求。
资料查阅日期:2026-10-04
客户接受报价前不收费,基础设施供应商会在开通前披露。
下载可编辑工作表,用于约定范围、比较配置,并决定停止、调整或扩容。这是评估方法,不是客户案例。
预留 B300 节点前,比较配置范围、分配方式、存储、网络与 Pilot 验收条件。附成本计算示例,不作为供应商报价。
使用模型、精度、上下文、并发和质量目标建立代表性推理测试,再把实测结果与透明的 GPU 预算连接起来。