GPU cloud & superkomputasi AI

GPU cloud NVIDIA, dari satu node hingga 4.096 GPU

Q: Bagaimana Velyrix GPU Cloud ditagih?

Instans on-demand ditagih per detik tanpa jangka minimum dan tanpa biaya egress data pada paket standar. Klaster reserved ditagih bulanan dengan tarif kontrak tetap untuk jangka satu hingga tiga puluh enam bulan. Cloud privat perusahaan ditawarkan sebagai biaya platform bulanan tetap ditambah kapasitas.

Q: Apakah saya mendapat bare metal atau mesin virtual?

Keduanya tersedia. Standar untuk pelatihan multi-node adalah bare metal single-tenant dengan akses langsung ke GPU, NIC, dan NVMe. Instans tervirtualisasi dengan passthrough GPU ditawarkan bila snapshot dan re-imaging cepat lebih penting daripada beberapa persen terakhir performa.

Q: Jaringan apa yang dipakai klaster pelatihan multi-node?

InfiniBand non-blocking rail-optimised - NVIDIA Quantum-2 NDR pada 400G atau Quantum-X800 XDR pada 800G per GPU - dengan reduksi SHARP dalam jaringan. NVIDIA Spectrum-X Ethernet dengan RoCEv2 tersedia bila model operasional khusus Ethernet dibutuhkan.

Q: Bisakah saya menjalankan Slurm dan Kubernetes di klaster yang sama?

Ya. Velyrix umumnya mempartisi klaster reserved sehingga partisi Slurm menangani pelatihan panjang sementara partisi Kubernetes melayani inferensi, dengan satu sistem file paralel bersama. Ukuran partisi dapat disesuaikan selama masa kontrak.

Q: Apakah ada komitmen minimum untuk klaster besar?

Klaster di atas 256 GPU biasanya dikontrak minimal tiga bulan karena pekerjaan pembangunan dan pengabelan fabric. Jendela lebih pendek dapat diakomodasi di ruang yang sudah memiliki pod setara yang menganggur.

Sediakan akselerator NVIDIA single-tenant per detik, atau pesan seluruh klaster terhubung InfiniBand selama masa pelatihan Anda. Perangkat keras sama, fabric sama, insinyur sama — apa pun cara Anda membeli.

Pesan kapasitas →Bandingkan dengan bare metal

Penyediaan

< 90 detik

Penagihan

Per detik, tanpa biaya egress

Fabric

400G / 800G non-blocking

Klaster maksimum

4.096 GPU dalam satu fabric

SLA ketersediaan

Infrastruktur 99,99%

Katalog GPU

Pilih akselerator Anda

Setiap SKU tersedia sebagai instans bare-metal single-tenant atau instans tervirtualisasi dengan passthrough GPU. SKU multi-node disertai InfiniBand rail-optimised sebagai standar.

GPU	Arsitektur	Memori / bandwidth	Interkoneksi	Cocok untuk	Mulai (GPU-jam)
GB300 NVL72	Blackwell Ultra	288 GB HBM3e · 8 TB/s	NVLink 5 rack-scale + XDR 800G	Pelatihan triliunan parameter, inferensi konteks panjang	$8.91
B300 SXM (HGX)	Blackwell Ultra	288 GB HBM3e · 8 TB/s	NVLink 5 + XDR 800G	Pra-pelatihan frontier, fine-tuning MoE	$8.34
B200 SXM (HGX)	Blackwell	180 GB HBM3e · 8 TB/s	NVLink 5 + NDR/XDR	Pelatihan skala besar, inferensi FP4	$6.61
H200 SXM (HGX)	Hopper	141 GB HBM3e · 4.8 TB/s	NVLink 4 + NDR 400G	Pelatihan 70B–400B dan serving throughput tinggi	$3.79
H100 SXM (HGX)	Hopper	80 GB HBM3 · 3.35 TB/s	NVLink 4 + NDR 400G	Pelatihan, fine-tuning, dan inferensi umum	$3.10
H100 NVL / PCIe	Hopper	94 / 80 GB · 3.9 TB/s	NVLink bridge + 200G	Kepadatan inferensi, beban campuran	$2.70
A100 SXM 80GB	Ampere	80 GB HBM2e · 2.0 TB/s	NVLink 3 + HDR 200G	Pelatihan hemat biaya dan inferensi batch	$1.90
A100 SXM 40GB	Ampere	40 GB HBM2 · 1.6 TB/s	NVLink 3 + HDR 200G	Pelatihan hemat biaya dan inferensi batch	$1.47
RTX PRO 6000 Blackwell	Blackwell	96 GB GDDR7 · 1.8 TB/s	PCIe Gen5 · 200G	Inferensi, simulasi, grafis & Omniverse	$2.18
L40S	Ada Lovelace	48 GB GDDR6 · 864 GB/s	PCIe Gen4 · 100G	Inferensi, rendering, video, VDI	$1.35
RTX 5090	Blackwell	32 GB GDDR7 · 1.8 TB/s	PCIe Gen5 · 100G	Riset, difusi, klaster pengembangan	$0.75

Harga daftar on-demand indikatif dalam USD per GPU-jam, belum termasuk pajak. Kontrak reserved dan komitmen mendapat diskon; lihat harga untuk tabel per jangka waktu.

Model konsumsi

Beli komputasi sesuai cara proyek Anda didanai

Elastis

On-Demand

Penagihan per detik, tanpa komitmen. Ideal untuk eksperimen, harness evaluasi, dan fine-tuning sesaat.

1–8 GPU per instans
Penyediaan instan lewat API / konsol
Snapshot & lanjutkan
Tanpa biaya egress

Paling populer

Klaster Reserved

Pod dedikasi terhubung InfiniBand yang dipegang 1–36 bulan, dengan kapasitas bernama dan tarif tetap selama jangka waktu itu.

16–4.096 GPU, fabric non-blocking
Slurm atau Kubernetes terkelola
Hingga 55% di bawah on-demand
Jaminan kapasitas dalam kontrak

Perusahaan

Cloud AI Privat

Ruang, fabric, dan penyimpanan yang terisolasi secara fisik, dioperasikan Velyrix dengan penamaan, kebijakan, dan rezim audit Anda.

Cage atau suite dedikasi
Kunci enkripsi dikelola pelanggan
Opsi air-gapped
SLA & kontrol perubahan khusus

Fabric klaster

Jaringan rail-optimised yang menjaga GPU tetap sibuk

Klaster pelatihan hanya secepat all-reduce paling lambatnya. Velyrix membangun setiap pod multi-node di atas fat-tree non-blocking rail-optimised dengan plane penyimpanan dan manajemen tersendiri.

Fabric komputasi: InfiniBand NVIDIA Quantum-2 NDR 400G atau Quantum-X800 XDR 800G, langganan 1:1
Opsi Ethernet: NVIDIA Spectrum-X dengan RoCEv2, routing adaptif, dan kendali kongesti
Komputasi dalam jaringan: agregasi SHARP untuk memangkas latensi all-reduce pada kolektif besar
Plane penyimpanan: jaringan 200/400G terpisah agar checkpoint tidak pernah berebut dengan gradien
Plane manajemen: jaringan BMC out-of-band, terisolasi dari lalu lintas penyewa
Validasi: bandwidth bus NCCL dan latensi all-reduce dilaporkan sebelum serah terima

acceptance-report.txt

# 512x NVIDIA H200 SXM — XDR 800G rail-optimised
nccl-tests/all_reduce_perf -b 8 -e 8G -f 2 -g 8

size        busbw       algbw      status
1.00 GB     372.4 GB/s  198.1 GB/s  PASS
4.00 GB     381.9 GB/s  203.7 GB/s  PASS
8.00 GB     384.6 GB/s  205.1 GB/s  PASS

fabric      : 1:1 non-blocking, 0 link errors / 72h
gpu_burnin  : 72h @ 100% — 0 XID, 0 ECC row remaps
sustained   : 48.9% MFU, Llama-class 70B reference run

Angka representatif dari uji terima Velyrix. Hasil bervariasi menurut topologi, model, ukuran batch, dan tumpukan perangkat lunak; klaster Anda diukur dan dilaporkan secara individual.

Orkestrasi & perangkat lunak

Datang dengan tumpukan Anda, bukan proyek migrasi

▤

Slurm terkelola

Slurm siap pakai dengan Pyxis/Enroot, akuntansi fair-share, penjadwalan sadar topologi, dan hook checkpoint-restart untuk pra-pelatihan panjang.

⚙

Kubernetes terkelola

Klaster sesuai CNCF dengan NVIDIA GPU Operator, Network Operator, profil MIG, KubeRay, dan Kueue untuk penjadwalan multi-tenant.

☁

API bare-metal

Provider Terraform dan REST API untuk deployment image, boot iPXE, kendali BMC, dan partisi fabric — bangun control plane Anda sendiri di atasnya.

📦

Registry kontainer

Registry dan cache lokal per kawasan untuk NGC, Docker Hub, dan image privat, agar unduhan 40 GB tidak menghambat peluncuran job 512 GPU.

📈

Observabilitas

DCGM, Prometheus, dan Grafana dengan utilisasi GPU per job, daya, suhu, peristiwa XID, dan penghitung fabric — dapat diekspor ke SIEM Anda sendiri.

🔧

Framework

Image tervalidasi untuk PyTorch, JAX, NeMo, Megatron-LM, DeepSpeed, TorchTitan, vLLM, SGLang, dan TensorRT-LLM, diperbarui setiap bulan.

Termasuk di setiap klaster

Apa yang Anda dapat sebelum job pertama berjalan

Penyimpanan

Sistem file paralel berkinerja tinggi (WEKA atau VAST) yang disesuaikan dengan anggaran token Anda, ditambah penyimpanan objek kompatibel S3 untuk dataset dan checkpoint. Termasuk 10 TB NVMe scratch per node.

Jaringan

Fabric komputasi InfiniBand atau Spectrum-X non-blocking, transit internet ganda 100G, interkoneksi privat ke AWS, Azure, GCP, dan Oracle, serta opsi transit BGP/IP. Tanpa biaya egress pada paket standar.

Keamanan

Host single-tenant, VLAN/VRF dan partisi fabric terisolasi, atestasi firmware secure boot, kunci dikelola pelanggan, serta penghapusan terverifikasi saat dekomisioning (purge NIST SP 800-88).

Dukungan

NOC 24×7, arsitek solusi bernama, respons P1 15 menit, target penggantian perangkat keras empat jam di lokasi, dan laporan SLA bulanan terhadap ketersediaan yang dikontrakkan.

Uji terima

Sebelum serah terima: burn-in GPU 72 jam, validasi memori dan ECC, uji bandwidth NCCL, penyisiran galat fabric, serta laporan uji terima bertanda tangan yang dapat Anda serahkan kepada auditor Anda.

Bicara dengan arsitek infrastruktur AI

GPU milik Anda. Kami yang mengoperasikannya.

Beli server NVIDIA Anda dari OEM atau distributor mana pun, kirim langsung ke fasilitas Velyrix, dan kami menangani sisanya: implementasi, jaringan, pendinginan, pemantauan, dan dukungan. Atau sewa milik kami. Apa pun pilihannya, Anda menerima rencana dalam satu hari kerja.

Minta penawaran → Cara kerja BYOG

Pertanyaan umum

Bagaimana Velyrix GPU Cloud ditagih?

Instans on-demand ditagih per detik tanpa jangka minimum dan tanpa biaya egress data pada paket standar. Klaster reserved ditagih bulanan dengan tarif kontrak tetap untuk jangka satu hingga tiga puluh enam bulan. Cloud privat perusahaan ditawarkan sebagai biaya platform bulanan tetap ditambah kapasitas.

Apakah saya mendapat bare metal atau mesin virtual?

Keduanya tersedia. Standar untuk pelatihan multi-node adalah bare metal single-tenant dengan akses langsung ke GPU, NIC, dan NVMe. Instans tervirtualisasi dengan passthrough GPU ditawarkan bila snapshot dan re-imaging cepat lebih penting daripada beberapa persen terakhir performa.

Jaringan apa yang dipakai klaster pelatihan multi-node?

InfiniBand non-blocking rail-optimised - NVIDIA Quantum-2 NDR pada 400G atau Quantum-X800 XDR pada 800G per GPU - dengan reduksi SHARP dalam jaringan. NVIDIA Spectrum-X Ethernet dengan RoCEv2 tersedia bila model operasional khusus Ethernet dibutuhkan.

Bisakah saya menjalankan Slurm dan Kubernetes di klaster yang sama?

Ya. Velyrix umumnya mempartisi klaster reserved sehingga partisi Slurm menangani pelatihan panjang sementara partisi Kubernetes melayani inferensi, dengan satu sistem file paralel bersama. Ukuran partisi dapat disesuaikan selama masa kontrak.

Apakah ada komitmen minimum untuk klaster besar?

Klaster di atas 256 GPU biasanya dikontrak minimal tiga bulan karena pekerjaan pembangunan dan pengabelan fabric. Jendela lebih pendek dapat diakomodasi di ruang yang sudah memiliki pod setara yang menganggur.