Dari sisi harga, NVIDIA tidak menetapkan harga ritel sederhana untuk GPU data center seperti H100 Harga yang beredar berasal dari distributor, OEM, pasar server, dan estimasi industri.
Pada 2026, kisaran H100 baru berada sekitar US$25.000–US$40.000 per GPU, atau sekitar Rp448 juta–Rp717 juta menggunakan kurs sekitar Rp17.900 per dolar AS.
Harga tersebut belum tentu mencakup server, prosesor, RAM, storage, jaringan, sistem pendingin, dan dukungan enterprise.
NVIDIA H200 Bawa Memori Lebih Besar
Generasi berikutnya adalah NVIDIA H200 GPU ini masih menggunakan arsitektur Hopper, tetapi mendapatkan peningkatan besar pada sistem memorinya.
H200 memiliki 141 GB HBM3e dengan bandwidth hingga 4,8 TB/s. Kapasitas tersebut hampir 1,8 kali H100, sedangkan bandwidth memorinya sekitar 1,4 kali lebih tinggi.
Peningkatan ini penting untuk model AI yang membutuhkan kapasitas memori besar dan akses data sangat cepat.
Kisaran harga H200 pada pasar enterprise 2026 berada di sekitar US$30.000–US$40.000 lebih per unit, tergantung bentuk produk dan konfigurasi Harga sistem delapan GPU dapat mencapai ratusan ribu dolar.
NVIDIA B200, Generasi Blackwell untuk AI Skala Besar
NVIDIA kemudian menghadirkan B200 berbasis arsitektur Blackwell Dalam konfigurasi HGX, satu B200 mempunyai 180 GB HBM3e dengan bandwidth hingga 8 TB/s Sistem delapan GPU menyediakan total 1,44 TB memori HBM3e.
Untuk harga, sejumlah estimasi pasar 2026 menempatkan B200 di kisaran US$30.000–US$50.000 per GPU, setara sekitar Rp537 juta–Rp896 juta sebelum memperhitungkan biaya server dan infrastruktur.
AMD MI300X Jadi Alternatif Enterprise
Persaingan GPU AI tidak hanya berasal dari NVIDIA AMD menawarkan Instinct MI300X yang dirancang untuk AI generatif dan komputasi performa tinggi.
MI300X menggunakan arsitektur CDNA 3 dengan 192 GB HBM3, 304 compute units, 1.216 matrix cores, serta bandwidth memori hingga 5,3 TB/s.
Konsumsi daya maksimumnya mencapai 750 watt. AMD juga menyediakan platform dengan delapan MI300X yang menghasilkan total 1,5 TB memori HBM3.
Harga MI300X sangat bergantung pada OEM dan konfigurasi server sehingga tidak terdapat satu harga ritel global yang berlaku untuk semua pembeli.