GPU 算力 · 采购指南按模型与预算选择合适的 GPU
比较 AI 训练和推理配置,了解完整使用成本,直接向 Arvica 提交算力需求
面向亚洲及全球客户提供服务,可咨询澳大利亚或新加坡部署方案,具体地点、供货和交付时间以确认报价为准
GPU 选型
GB300 NVL72 · 容量预留
GB300 NVL72 容量预留。配置、地区、价格与交付时间将在预留方案中确认。
获取 GPU 报价 →Rubin · NEW
Rubin 开放意向登记,用于咨询后续容量,暂不作为可立即购买的实例。价格及供货需另行确认
提交算力需求 →预算要覆盖整个部署
先按 GPU 数量 × 每卡小时价 × 计费时长估算,再加上持久化存储、快照、数据传输、公网 IP 及管理服务。还需确认停止 GPU 后哪些资源继续计费
计算示例:8 张 GPU 使用 100 小时 = 800 GPU 小时。用 GPU 小时数乘以实时目录或您方案中的 Arvica 费率,再加上其他服务与税费。预留容量可能采用不同计费条款
下单前确认最低租期、计费粒度、取消条款、包含的存储和流量额度、超额费用,以及是否含 GST 或其他适用税费
运行模型需要多少 GPU 显存
模型权重可先按参数量 × 每个参数的字节数估算。700 亿参数模型采用 FP16/BF16 时,仅权重约需 140 GB(十进制);4-bit 权重理论上约 35 GB,尚未包含量化元数据。KV 缓存、激活值及运行时开销还需额外显存
仅模型权重 · GB(十进制)| 模型参数量(十亿) | FP16 / BF16 | INT8 | 4 位 |
|---|
| 8 | 16 | 8 | 4 |
|---|
| 32 | 64 | 32 | 16 |
|---|
| 70 | 140 | 70 | 35 |
|---|
| 405 | 810 | 405 | 202.5 |
|---|
以上是容量估算,不是性能测试。上下文长度、批量大小、并发数、精度和训练方法都会改变显存需求。训练还需要梯度与优化器状态空间,请一并提供这些条件以便核实配置
Hugging Face · GPU memory usage ↗这些参数会影响选型建议
请提供模型名称与规模、训练或推理用途、精度、上下文长度、预期并发、数据集大小、存储、网络需求和软件镜像。若有特定国家的数据驻留要求,请明确说明
技术文档(英文) →面向所在市场的采购建议
海外GPU采购:询问确切的托管国家、承包实体、计费货币和数据访问安排。订购前请检查中国大陆客户网络的访问情况并确认模型和数据集传输路径。中国大陆以外的成功测试并不能替代。
订购前的问题
我的数据将存储在哪里?
该订单应指定计算位置、存储位置、备份位置和允许的支持访问权限。为某个国家/地区的客户提供服务与在该国家/地区托管不同。在传输数据之前请求这些详细信息。
如何咨询容量与获取报价?
请联系 sales@arvica.ai 或提交下方表单。Arvica 核查配置、容量和商业条款后提供报价。可询问预计回复与交付时间,本页不承诺固定报价时限或开通时间
哪款 GPU 对我的模型最快
有意义的比较需要使用相同模型、精度、批量、上下文长度、软件版本及 GPU 数量。可要求提供这些条件下经过验证的实测结果,不能只凭型号判断性能
我可以使用采购订单或预留产能吗?
包括您的法人实体、采购订单参考、要求的条款和计费要求。 Arvica 确认报价中的合同、定金、发票和付款条款。提交此表格不会向您的卡收取费用或提供资源。
中国大陆的客户可以使用该服务吗?
订购前请检查实际客户网络的页面访问、表单提交、SSH 和模型下载路径。海外可用性并不能证明大陆连通性。确认预期工作负载的数据传输和访问要求。
提交算力需求
告诉我们工作负载与部署限制,Arvica 将准备合适的配置方案与报价。你可以使用当前页面语言填写需求
容量、报价或询价跟进:sales@arvica.ai