更愿意自己持有硬件？从任意 OEM 采购、交给我们运营 — 请看 BYOG 自带 GPU。租用与自有共用同样的机房、同样的网络、同样的工程师。
NVIDIA HGX 与 NVL72 独立服务器
八卡 SXM 节点，配备 NVLink 与 NVSwitch、双路 CPU、400G/800G 网卡与本地 NVMe 暂存。 可整机租用，也可组成多节点 pod 并以 InfiniBand 互联。
| 配置 | CPU / 内存 | 本地 NVMe | 计算网卡 | 月付 | 年付（折合每月） | 小时价 |
|---|---|---|---|---|---|---|
| GB300 NVL72 — 72 GPU | 36× Grace · 40 TB | 4× 7.68 TB | 18× XDR 800G | 单独报价 | 单独报价 | — |
| 8× B300 SXM 288GB | 2× Xeon 6 / EPYC 9005 · 3 TB | 8× 7.68 TB Gen5 | 8× XDR 800G | $44,800 | $39,900 | $66.72 |
| 8× B200 SXM 180GB | 2× Xeon 6 / EPYC 9005 · 3 TB | 8× 7.68 TB Gen5 | 8× NDR/XDR | $38,000 | $33,800 | $52.88 |
| 8× H200 SXM 141GB | 2× Xeon 8568Y+ / EPYC 9554 · 2 TB | 8× 3.84 TB Gen4/5 | 8× NDR 400G | $23,900 | $21,300 | $30.32 |
| 8× H100 SXM 80GB | 2× Xeon 8468 / EPYC 9474F · 2 TB | 8× 3.84 TB Gen4 | 8× NDR 400G | $18,400 | $16,400 | $24.80 |
| 8× A100 SXM 80GB | 2× EPYC 7763 / Xeon 8358 · 1 TB | 4× 3.84 TB Gen4 | 8× HDR 200G | $10,400 | $9,300 | $15.20 |
| 8× A100 SXM 40GB | 2× EPYC 7742 · 1 TB | 4× 1.92 TB Gen4 | 8× HDR 200G | $8,000 | $7,100 | $11.76 |
以上为每节点美元参考标价，不含税、并行存储与跨区流量。多节点 pod 含 InfiniBand 叶脊交换、 布线与验证。
市场上真正在租的那些配置
推理、微调、渲染与 CI 机队很少需要 NVL72。以下是主力机型，同样保证单租户独占。
| 配置 | 显存合计 | 平台 | 典型用途 | 月付 | 小时价 |
|---|---|---|---|---|---|
| 8× H100 NVL 94GB | 752 GB | 2× EPYC 9454 · 1.5 TB · PCIe Gen5 | 高密度大模型推理 | $14,700 | $21.60 |
| 4× H100 PCIe 80GB | 320 GB | 2× Xeon 8462Y+ · 768 GB | 微调、中型模型服务 | $7,300 | $10.80 |
| 8× RTX PRO 6000 Blackwell 96GB | 768 GB | 2× EPYC 9455 · 1.5 TB · Gen5 | 推理、Omniverse、仿真 | $9,500 | $17.44 |
| 8× L40S 48GB | 384 GB | 2× Xeon 8462Y+ · 1 TB | 推理、视频、云桌面、渲染 | $6,000 | $10.80 |
| 4× L40S 48GB | 192 GB | 2× EPYC 9354 · 512 GB | 小模型服务、批处理 | $3,300 | $5.40 |
| 8× RTX 5090 32GB | 256 GB | 2× EPYC 9354 · 768 GB | 科研、扩散模型、开发集群 | $3,800 | $6.00 |
| 8× RTX 4090 24GB | 192 GB | 2× EPYC 7543 · 512 GB | 扩散模型、CI、成本敏感推理 | $2,700 | $5.04 |
| 4× RTX A6000 48GB | 192 GB | 2× Xeon 6338 · 512 GB | 工作站级、CAD、旧版 CUDA | $1,900 | $5.40 |
| 8× L4 24GB | 192 GB | 2× EPYC 9124 · 384 GB | 低功耗推理、转码 | $2,200 | $3.12 |
| 2× L40S 48GB | 96 GB | 1× EPYC 9254 · 256 GB | 入门级推理节点 | $1,640 | $2.70 |
集群里的其余部分
数据流水线、分词、登录节点、向量数据库与 checkpoint 存储 — 全部与你的 GPU 位于同一网络、 同一机房。
| 配置 | 核心 / 线程 | 显存 | 存储 | 网络 | 月付 |
|---|---|---|---|---|---|
| 计算型 — 双路 EPYC 9654 | 192C / 384T | 768 GB DDR5 | 2× 3.84 TB NVMe | 2× 25G | $1,490 |
| 计算型 — 双路 Xeon 6740E | 192C / 192T | 512 GB DDR5 | 2× 1.92 TB NVMe | 2× 25G | $1,210 |
| 通用型 — 单路 EPYC 9354 | 32C / 64T | 256 GB DDR5 | 2× 1.92 TB NVMe | 2× 10G | $680 |
| 登录 / 管理节点 | 16C / 32T | 128 GB | 2× 960 GB NVMe | 2× 10G | $370 |
| 存储型 — NVMe 高密 | 64C / 128T | 512 GB | 24× 7.68 TB NVMe (184 TB) | 2× 100G | $3,800 |
| 存储型 — 大容量 HDD | 32C / 64T | 256 GB | 60× 22 TB SAS (1.3 PB raw) | 2× 25G | $4,500 |
| 大内存型 | 96C / 192T | 3 TB DDR5 | 4× 3.84 TB NVMe | 2× 100G | $2,800 |
我们的价格刻意高于市场中位
Velyrix 的标价定在市场中位价之上 15% — 这是刻意为之，而且我们把算法公开。 我们并不想成为全网最便宜的 GPU 卡时 — 因为最便宜的卡时往往超卖、网络有阻塞、出问题没人管，或者三者都有。这部分溢价买到的是工程能力： 无阻塞网络、签署版验收报告、四小时硬件更换，以及凌晨三点也会接电话的工程师。
| 租赁单位 | 市场区间 | 市场中位 | Velyrix 标价 | 对比中位 | 溢价换来什么 |
|---|---|---|---|---|---|
| H100 SXM — 每卡时 | $1.90 – $3.50 | $2.70 | $3.10 | +15% | 1:1 无阻塞 NDR 网络、单租户独占 |
| H200 SXM — 每卡时 | $2.40 – $4.20 | $3.30 | $3.79 | +15% | 容量有保障，不超卖 |
| B200 — 每卡时 | $4.00 – $7.50 | $5.75 | $6.61 | +15% | 液冷机房，满载下频率稳定 |
| B300 / GB300 — 每卡时 | $5.50 – $9.00 | $7.25 | $8.34 | +15% | 整机柜调试与 CDU 冗余 |
| A100 80GB — 每卡时 | $1.10 – $2.20 | $1.65 | $1.90 | +15% | 机队持续维护，交付前必做烤机 |
| L40S — 每卡时 | $0.75 – $1.60 | $1.18 | $1.35 | +15% | 企业级 SLA，而非尽力而为 |
| RTX 4090 — 每卡时 | $0.30 – $0.80 | $0.55 | $0.63 | +15% | 正规 Tier III 级机房，不是矿场货架 |
| 8× H100 SXM 80GB 节点 — 每月 | $10,000 – $22,000 | $16,000 | $18,400 | +15% | 7×24 NOC、四小时更换、验收报告 |
| 8× H200 SXM 141GB 节点 — 每月 | $13,500 – $28,000 | $20,750 | $23,900 | +15% | 专属架构师、月度 SLA 报告 |
| 8× B200 SXM 180GB 节点 — 每月 | $21,000 – $45,000 | $33,000 | $38,000 | +15% | 芯片级液冷、经过验证的网络 |
上述市场区间与中位价为 Velyrix 对各 GPU 云与裸金属服务商公开标价的自行观察，仅供参考 定位，不构成对任何第三方现行价格的陈述，也未获得任何其他服务商的背书。Velyrix 的价格为参考标价， 以书面报价单为准；长期合约与大批量采购单独报价。
每台独立服务器都包含什么
- Root 与 BMC 权限：IPMI/Redfish、虚拟介质、串口重定向与远程重启
- 操作系统自选：Ubuntu、Rocky、RHEL、Debian、Windows Server，或通过 iPXE 加载自定义镜像
- 预验证驱动栈：NVIDIA 驱动、CUDA、Fabric Manager、DCGM、NVIDIA Container Toolkit
- 交付前烤机：24–72 小时 GPU 压力测试、ECC 与温度验证报告
- 带宽：10G 不限量或 25/100G 计量，双上联并含 DDoS 防护
- 现场支持：机房 7×24 驻场工程师，四小时硬件更换目标
| 增值项 | 单位 | 价格 |
|---|---|---|
| 并行文件系统（WEKA/VAST） | 每 TB / 月 | $42 |
| NVMe 块存储 | 每 TB / 月 | $100 |
| 对象存储（S3 接口） | 每 TB / 月 | $20 |
| 备份与快照库 | 每 TB / 月 | $14 |
| 100G 不限量端口 | 每端口 / 月 | $1,600 |
| 额外 IPv4 /29 | 每月 | $46 |
| 云专线 | 每 10G / 月 | $545 |
| InfiniBand pod 组网 | 每节点 / 月 | $805 |
| 操作系统托管与补丁 | 每台 / 月 | $230 |
| 托管 Slurm / Kubernetes | 每集群 / 月 | $2,400 |
常见问题
独立 GPU 服务器和 GPU 云实例有什么区别？
独立服务器是整台物理机只租给一个客户：所有 GPU、所有 CPU 核心、所有 NVMe 与 BMC 在租期内都归你，没有虚拟化开销，也没有共享租户。云实例按秒开通，可能是虚拟化的。在三个月以上的租期下，独立服务器每卡时通常比云实例便宜 25%–45%。
租一台 8 卡 H100 服务器每月多少钱？
Velyrix 的 8× NVIDIA H100 SXM 节点标价为每月 $18,400 起，12 个月租期降至 $16,400，36 个月为 $15,600。标价刻意定在约 $16,000 的市场中位价之上 15%：对应的是无阻塞网络、签署版验收报告、7×24 NOC 覆盖与四小时硬件更换目标，而不是尽力而为式的托管。
可以只租一张卡而不是整台机器吗？
可以，通过 Velyrix GPU 云租用，提供 1、2、4、8 卡实例并按秒计费。独立服务器按整机出租，因为 HGX 基板内部的 NVLink 与 NVSwitch 拓扑无法在多个租户之间合理切分。
独立服务器多久能交付？
在已开通区域有现货的配置通常 2 到 24 小时内上线。定制配置、大规模 pod 与 Blackwell 级节点取决于 OEM 交期，一般在 5 到 20 个工作日内交付。
带宽或流量另外收费吗？
标准套餐包含 10G 不限量上联，不收流量费。更高容量的 25G、100G 端口、云专线与专用出口带宽按增值项计费。
租期内可以升级或更换硬件吗？
可以。租期内升级到更高配置只需补差价，数据仍保留在同一套存储上。降配则在下一个续约日生效。