更願意自己持有硬體？從任意 OEM 採購、交給我們營運 — 請看 BYOG 自帶 GPU。租用與自有共用同樣的機房、同樣的網路、同樣的工程師。
NVIDIA HGX 與 NVL72 獨立伺服器
八卡 SXM 節點，配備 NVLink 與 NVSwitch、雙路 CPU、400G/800G 網路卡與本地 NVMe 暫存。 可整機租用，也可組成多節點 pod 並以 InfiniBand 互聯。
| 配置 | CPU / 記憶體 | 本地 NVMe | 計算網路卡 | 月付 | 年付（摺合每月） | 小時價 |
|---|---|---|---|---|---|---|
| GB300 NVL72 — 72 GPU | 36× Grace · 40 TB | 4× 7.68 TB | 18× XDR 800G | 單獨報價 | 單獨報價 | — |
| 8× B300 SXM 288GB | 2× Xeon 6 / EPYC 9005 · 3 TB | 8× 7.68 TB Gen5 | 8× XDR 800G | $44,800 | $39,900 | $66.72 |
| 8× B200 SXM 180GB | 2× Xeon 6 / EPYC 9005 · 3 TB | 8× 7.68 TB Gen5 | 8× NDR/XDR | $38,000 | $33,800 | $52.88 |
| 8× H200 SXM 141GB | 2× Xeon 8568Y+ / EPYC 9554 · 2 TB | 8× 3.84 TB Gen4/5 | 8× NDR 400G | $23,900 | $21,300 | $30.32 |
| 8× H100 SXM 80GB | 2× Xeon 8468 / EPYC 9474F · 2 TB | 8× 3.84 TB Gen4 | 8× NDR 400G | $18,400 | $16,400 | $24.80 |
| 8× A100 SXM 80GB | 2× EPYC 7763 / Xeon 8358 · 1 TB | 4× 3.84 TB Gen4 | 8× HDR 200G | $10,400 | $9,300 | $15.20 |
| 8× A100 SXM 40GB | 2× EPYC 7742 · 1 TB | 4× 1.92 TB Gen4 | 8× HDR 200G | $8,000 | $7,100 | $11.76 |
以上為每節點美元參考標價，不含稅、並行儲存與跨區流量。多節點 pod 含 InfiniBand 葉脊交換、 佈線與驗證。
市場上真正在租的那些配置
推論、微調、渲染與 CI 機隊很少需要 NVL72。以下是主力機型，同樣保證單租戶獨佔。
| 配置 | 視訊記憶體合計 | 平臺 | 典型用途 | 月付 | 小時價 |
|---|---|---|---|---|---|
| 8× H100 NVL 94GB | 752 GB | 2× EPYC 9454 · 1.5 TB · PCIe Gen5 | 高密度大模型推論 | $14,700 | $21.60 |
| 4× H100 PCIe 80GB | 320 GB | 2× Xeon 8462Y+ · 768 GB | 微調、中型模型服務 | $7,300 | $10.80 |
| 8× RTX PRO 6000 Blackwell 96GB | 768 GB | 2× EPYC 9455 · 1.5 TB · Gen5 | 推論、Omniverse、模擬 | $9,500 | $17.44 |
| 8× L40S 48GB | 384 GB | 2× Xeon 8462Y+ · 1 TB | 推論、影片、雲桌面、渲染 | $6,000 | $10.80 |
| 4× L40S 48GB | 192 GB | 2× EPYC 9354 · 512 GB | 小模型服務、批處理 | $3,300 | $5.40 |
| 8× RTX 5090 32GB | 256 GB | 2× EPYC 9354 · 768 GB | 科研、擴散模型、開發叢集 | $3,800 | $6.00 |
| 8× RTX 4090 24GB | 192 GB | 2× EPYC 7543 · 512 GB | 擴散模型、CI、成本敏感推論 | $2,700 | $5.04 |
| 4× RTX A6000 48GB | 192 GB | 2× Xeon 6338 · 512 GB | 工作站級、CAD、舊版 CUDA | $1,900 | $5.40 |
| 8× L4 24GB | 192 GB | 2× EPYC 9124 · 384 GB | 低功耗推論、轉碼 | $2,200 | $3.12 |
| 2× L40S 48GB | 96 GB | 1× EPYC 9254 · 256 GB | 入門級推論節點 | $1,640 | $2.70 |
叢集裡的其餘部分
資料流水線、分詞、登入節點、向量資料庫與 checkpoint 儲存 — 全部與你的 GPU 位於同一網路、 同一機房。
| 配置 | 核心 / 執行緒 | 視訊記憶體 | 儲存 | 網路 | 月付 |
|---|---|---|---|---|---|
| 計算型 — 雙路 EPYC 9654 | 192C / 384T | 768 GB DDR5 | 2× 3.84 TB NVMe | 2× 25G | $1,490 |
| 計算型 — 雙路 Xeon 6740E | 192C / 192T | 512 GB DDR5 | 2× 1.92 TB NVMe | 2× 25G | $1,210 |
| 通用型 — 單路 EPYC 9354 | 32C / 64T | 256 GB DDR5 | 2× 1.92 TB NVMe | 2× 10G | $680 |
| 登入 / 管理節點 | 16C / 32T | 128 GB | 2× 960 GB NVMe | 2× 10G | $370 |
| 儲存型 — NVMe 高密 | 64C / 128T | 512 GB | 24× 7.68 TB NVMe (184 TB) | 2× 100G | $3,800 |
| 儲存型 — 大容量 HDD | 32C / 64T | 256 GB | 60× 22 TB SAS (1.3 PB raw) | 2× 25G | $4,500 |
| 大記憶體型 | 96C / 192T | 3 TB DDR5 | 4× 3.84 TB NVMe | 2× 100G | $2,800 |
我們的價格刻意高於市場中位
Velyrix 的標價定在市場中位價之上 15% — 這是刻意為之，而且我們把演算法公開。 我們並不想成為全網最便宜的 GPU 卡時 — 因為最便宜的卡時往往超賣、網路有阻塞、出問題沒人管，或者三者都有。這部分溢價買到的是工程能力： 無阻塞網路、簽署版驗收報告、四小時硬體更換，以及凌晨三點也會接電話的工程師。
| 租賃單位 | 市場區間 | 市場中位 | Velyrix 標價 | 對比中位 | 溢價換來什麼 |
|---|---|---|---|---|---|
| H100 SXM — 每卡時 | $1.90 – $3.50 | $2.70 | $3.10 | +15% | 1:1 無阻塞 NDR 網路、單租戶獨佔 |
| H200 SXM — 每卡時 | $2.40 – $4.20 | $3.30 | $3.79 | +15% | 容量有保障，不超賣 |
| B200 — 每卡時 | $4.00 – $7.50 | $5.75 | $6.61 | +15% | 液冷機房，滿載下頻率穩定 |
| B300 / GB300 — 每卡時 | $5.50 – $9.00 | $7.25 | $8.34 | +15% | 整機櫃除錯與 CDU 冗餘 |
| A100 80GB — 每卡時 | $1.10 – $2.20 | $1.65 | $1.90 | +15% | 機隊持續維護，交付前必做烤機 |
| L40S — 每卡時 | $0.75 – $1.60 | $1.18 | $1.35 | +15% | 企業級 SLA，而非盡力而為 |
| RTX 4090 — 每卡時 | $0.30 – $0.80 | $0.55 | $0.63 | +15% | 正規 Tier III 級機房，不是礦場貨架 |
| 8× H100 SXM 80GB 節點 — 每月 | $10,000 – $22,000 | $16,000 | $18,400 | +15% | 7×24 NOC、四小時更換、驗收報告 |
| 8× H200 SXM 141GB 節點 — 每月 | $13,500 – $28,000 | $20,750 | $23,900 | +15% | 專屬架構師、月度 SLA 報告 |
| 8× B200 SXM 180GB 節點 — 每月 | $21,000 – $45,000 | $33,000 | $38,000 | +15% | 晶片級液冷、經過驗證的網路 |
上述市場區間與中位價為 Velyrix 對各 GPU 雲與裸金屬服務商公開標價的自行觀察，僅供參考 定位，不構成對任何第三方現行價格的陳述，也未獲得任何其他服務商的背書。Velyrix 的價格為參考標價， 以書面報價單為準；長期合約與大批次採購單獨報價。
每臺獨立伺服器都包含什麼
- Root 與 BMC 許可權：IPMI/Redfish、虛擬介質、串列埠重定向與遠端重啟
- 作業系統自選：Ubuntu、Rocky、RHEL、Debian、Windows Server，或透過 iPXE 載入自定義映象
- 預驗證驅動程式棧：NVIDIA 驅動程式、CUDA、Fabric Manager、DCGM、NVIDIA Container Toolkit
- 交付前烤機：24–72 小時 GPU 壓力測試、ECC 與溫度驗證報告
- 頻寬：10G 不限量或 25/100G 計量，雙上聯並含 DDoS 防護
- 現場支援：機房 7×24 駐場工程師，四小時硬體更換目標
| 增值項 | 單位 | 價格 |
|---|---|---|
| 並行檔案系統（WEKA/VAST） | 每 TB / 月 | $42 |
| NVMe 塊儲存 | 每 TB / 月 | $100 |
| 物件儲存（S3 介面） | 每 TB / 月 | $20 |
| 備份與快照庫 | 每 TB / 月 | $14 |
| 100G 不限量埠 | 每埠 / 月 | $1,600 |
| 額外 IPv4 /29 | 每月 | $46 |
| 雲專線 | 每 10G / 月 | $545 |
| InfiniBand pod 組網 | 每節點 / 月 | $805 |
| 作業系統託管與補丁 | 每臺 / 月 | $230 |
| 託管 Slurm / Kubernetes | 每叢集 / 月 | $2,400 |
常見問題
獨立 GPU 伺服器和 GPU 雲例項有什麼區別？
獨立伺服器是整臺物理機只租給一個客戶：所有 GPU、所有 CPU 核心、所有 NVMe 與 BMC 在租期內都歸你，沒有虛擬化開銷，也沒有共享租戶。雲例項按秒開通，可能是虛擬化的。在三個月以上的租期下，獨立伺服器每卡時通常比雲例項便宜 25%–45%。
租一臺 8 卡 H100 伺服器每月多少錢？
Velyrix 的 8× NVIDIA H100 SXM 節點標價為每月 $18,400 起，12 個月租期降至 $16,400，36 個月為 $15,600。標價刻意定在約 $16,000 的市場中位價之上 15%：對應的是無阻塞網路、簽署版驗收報告、7×24 NOC 覆蓋與四小時硬體更換目標，而不是盡力而為式的託管。
可以只租一張卡而不是整臺機器嗎？
可以，透過 Velyrix GPU 雲租用，提供 1、2、4、8 卡例項並按秒計費。獨立伺服器按整機出租，因為 HGX 基板內部的 NVLink 與 NVSwitch 拓撲無法在多個租戶之間合理切分。
獨立伺服器多久能交付？
在已開通區域有現貨的配置通常 2 到 24 小時內上線。定製配置、大規模 pod 與 Blackwell 級節點取決於 OEM 交期，一般在 5 到 20 個工作天內交付。
頻寬或流量另外收費嗎？
標準套餐包含 10G 不限量上聯，不收流量費。更高容量的 25G、100G 埠、雲專線與專用出口頻寬按增值項計費。
租期內可以升級或更換硬體嗎？
可以。租期內升級到更高配置只需補差價，資料仍保留在同一套儲存上。降配則在下一個續約日生效。