AMD Helios Menantang NVIDIA: MI455X dan Pertarungan untuk Supremasi Infrastruktur AI

Lisa Su naik ke panggung CES 2026 dengan pesan yang bergema di seluruh industri infrastruktur AI: AMD tidak akan lagi menyerahkan pasar AI berkinerja tinggi kepada NVIDIA. Pengumuman sistem Helios menandai platform AI skala rak pertama AMD—konfigurasi 72 akselerator yang dirancang untuk bersaing langsung dengan Vera Rubin NVL72 NVIDIA.

Lebih provokatif lagi, Su memberikan pratinjau seri MI500 dengan klaim peningkatan kinerja 1000x dibandingkan MI300X. Angka tersebut memerlukan pengujian ketat, tetapi ambisi di baliknya menandakan niat strategis AMD. Perusahaan telah mengkomitmenkan sumber daya dan bakat teknik untuk menutup kesenjangan dengan dominasi infrastruktur AI NVIDIA.

Helios: Jawaban Skala Rak AMD untuk NVL72

Sistem Helios mewakili platform AI skala rak terintegrasi pertama AMD. Akselerator seri MI sebelumnya dikirim sebagai komponen diskrit yang mengharuskan pelanggan merancang integrasi sistem—Helios memberikan solusi lengkap.¹

Arsitektur Sistem

Helios menempati jejak rak lebar ganda yang berisi 72 akselerator MI455X yang saling terhubung melalui teknologi Infinity Fabric AMD. Sistem ini mencakup:²

Komponen	Jumlah	Tujuan
Akselerator MI455X	72	Komputasi AI
CPU EPYC Turin	36	Pemrosesan host
Switch Infinity Fabric	18	Interkoneksi akselerator
SSD NVMe	144	Penyimpanan berkecepatan tinggi
NIC 400G	36	Jaringan eksternal

Konfigurasi lebar ganda memberikan keuntungan untuk pendinginan dan distribusi daya yang dikorbankan oleh desain rak tunggal. AMD menukar efisiensi ruang lantai dengan ruang termal—pilihan pragmatis mengingat kebutuhan daya MI455X.³

Interkoneksi Infinity Fabric

Helios menggunakan Infinity Fabric generasi keempat AMD untuk interkoneksi akselerator. Teknologi ini menyediakan bandwidth bidireksional 896 GB/s antara dua akselerator MI455X mana pun—mengesankan, tetapi terasa di bawah NVLink 6 NVIDIA pada 3,6 TB/s.⁴

Interkoneksi	Bandwidth per Link	Total Bandwidth Fabric
AMD Infinity Fabric 4	896 GB/s	~16 TB/s agregat
NVIDIA NVLink 6	3,6 TB/s	259 TB/s agregat

Perbedaan bandwidth penting untuk inferensi model besar di mana paralelisme tensor memerlukan komunikasi GPU-ke-GPU yang konstan. AMD mengkompensasi sebagian melalui kapasitas memori per-GPU yang lebih besar—mengurangi persyaratan paralelisme untuk banyak beban kerja.⁵

MI455X: Pendalaman Teknis

MI455X mewakili arsitektur CDNA 5 AMD yang dioptimalkan untuk inferensi dan pelatihan AI. Akselerator ini mendorong kepadatan transistor melampaui 320 miliar, difabrikasi pada proses hibrid TSMC N3/N2.⁶

Spesifikasi Inti

Spesifikasi	MI455X	MI300X	Peningkatan
Jumlah Transistor	320B	153B	2,1x
Node Proses	Hibrid N3/N2	N5/N6	2 generasi
Kapasitas HBM	432GB HBM4	192GB HBM3	2,25x
Bandwidth Memori	24 TB/s	5,3 TB/s	4,5x
Inferensi FP4	40 PFLOPS	10 PFLOPS	4x
Pelatihan FP8	3,2 PFLOPS	1,3 PFLOPS	2,5x
TDP	900W	750W	+20%

Kapasitas 432GB HBM4 per akselerator melebihi 288GB Rubin NVIDIA—memberikan keunggulan kompetitif AMD yang paling jelas. Ruang memori ini memungkinkan inferensi pada model yang lebih besar tanpa paralelisme tensor, mengurangi kompleksitas sistem dan tuntutan interkoneksi.⁷

Inovasi Arsitektur

MI455X memperkenalkan beberapa peningkatan arsitektur dibandingkan MI300X:

Desain Ulang Die Komputasi: Akselerator mengemas delapan die komputasi dengan bandwidth die-ke-die yang ditingkatkan. Generasi sebelumnya menderita penalti latensi lintas-die yang menurunkan kinerja untuk pola akses memori tidak teratur.⁸

Arsitektur Memori Terpadu: MI455X mengimplementasikan ruang memori terpadu di semua tumpukan HBM, menghilangkan efek NUMA yang memperumit pemrograman MI300X. Pengembang dapat memperlakukan pool 432GB sebagai ruang memori koheren tunggal.⁹

Dukungan Sparsity Perangkat Keras: Dukungan native untuk sparsity terstruktur mempercepat inferensi untuk model yang dipangkas. AMD mengklaim peningkatan kinerja 2x untuk model dengan sparsity 50%+—umum dalam penerapan produksi yang dioptimalkan untuk efisiensi biaya.¹⁰

Peningkatan Matrix Core: Matrix Core generasi keempat mendukung komputasi FP4 secara native, menyamai kemampuan NVIDIA. Akselerator AMD sebelumnya memerlukan presisi minimum FP8, membatasi peluang optimasi untuk beban kerja inferensi.¹¹

Kinerja Sistem Helios

AMD memposisikan Helios sebagai alternatif lengkap untuk Vera Rubin NVL72 NVIDIA. Perbandingan langsung mengungkapkan trade-off yang menguntungkan profil beban kerja berbeda:

Spesifikasi Sistem Agregat

Spesifikasi	AMD Helios	NVIDIA Vera Rubin NVL72
Akselerator	72x MI455X	72x Rubin
Total HBM	31,1 TB	20,7 TB
FP4 Agregat	2,9 EFLOPS	3,6 EFLOPS
FP8 Agregat	230 PFLOPS	180 PFLOPS
Bandwidth Interkoneksi	~16 TB/s	259 TB/s
Jejak Rak	Lebar ganda	Rak tunggal
Daya	~140 kW	120-130 kW

Helios unggul dalam kapasitas memori total (31,1 TB versus 20,7 TB) dan kinerja pelatihan FP8. NVIDIA mempertahankan keunggulan dalam throughput inferensi FP4 mentah dan bandwidth interkoneksi yang jauh lebih superior.¹²

Kinerja Spesifik Beban Kerja

Perbandingan kinerja sangat bergantung pada karakteristik beban kerja:

Inferensi Model Besar: Keunggulan kapasitas memori Helios memungkinkan inferensi sistem tunggal pada model yang memerlukan memori 25-30 TB—skenario di mana NVL72 memerlukan paralelisme tensor lintas sistem. Untuk beban kerja ini, Helios dapat memberikan throughput 20-30% lebih baik meskipun FLOPS puncak lebih rendah.¹³

Throughput Pelatihan: Untuk beban kerja pelatihan terdistribusi yang memerlukan sinkronisasi ketat, keunggulan bandwidth interkoneksi 16x NVIDIA diterjemahkan menjadi agregasi gradien yang lebih cepat dan pemanfaatan FLOPS efektif yang lebih tinggi. NVL72 kemungkinan mempertahankan keunggulan throughput pelatihan 15-25%.¹⁴

Latensi Inferensi: Beban kerja inferensi terikat memori menguntungkan keunggulan bandwidth Helios (24 TB/s per akselerator versus 22 TB/s). Beban kerja terikat komputasi menguntungkan FLOPS puncak NVIDIA yang lebih tinggi.¹⁵

Pertimbangan Ekosistem Perangkat Lunak

Stack perangkat lunak ROCm AMD telah matang secara substansial tetapi tetap tertinggal dari CUDA dalam kedalaman ekosistem:

Kemampuan	ROCm 7.0	CUDA 13.0
Dukungan PyTorch	Native	Native
Dukungan TensorFlow	Native	Native
Kernel Teroptimasi	~2.000	~8.000+
Alat Enterprise	Berkembang	Komprehensif
Komunitas Developer	Berkembang	Mapan

Framework AI utama sekarang mendukung ROCm secara native, menghilangkan hambatan utama untuk adopsi AMD. Namun, kernel kustom yang kritis terhadap kinerja sering memerlukan optimasi khusus CUDA—menciptakan gesekan bagi organisasi dengan codebase yang sudah dioptimalkan untuk NVIDIA.¹⁶

Klaim 1000x: Pratinjau Seri MI500

Pratinjau Lisa Su tentang seri MI500 segera memunculkan skeptisisme dengan klaim peningkatan kinerja 1000x dibandingkan MI300X. Memahami dasar klaim ini memerlukan penguraian asumsi AMD.¹⁷

Spesifikasi MI500 (Pratinjau)

Spesifikasi	MI500 (Pratinjau)	MI455X	MI300X
Arsitektur	CDNA 6	CDNA 5	CDNA 3
Proses	TSMC N2	N3/N2	N5/N6
HBM	HBM4E	HBM4	HBM3
Tanggal Target	2027	H2 2026	2023

Mengurai 1000x

Klaim 1000x AMD tampaknya mengasumsikan peningkatan majemuk di berbagai dimensi:¹⁸

Komputasi Mentah: ~10x peningkatan dari kemajuan arsitektur dan proses (masuk akal selama dua generasi)

Penskalaan Presisi: ~4x dari dukungan FP4/INT4 yang ditingkatkan (agresif tetapi mungkin)

Sparsity: ~4x dari eksploitasi sparsity terstruktur (memerlukan optimasi model)

Bandwidth Memori: ~3x dari peningkatan bandwidth HBM4E

Integrasi Sistem: ~2x dari pengemasan dan interkoneksi yang ditingkatkan

Dikalikan bersama: 10 × 4 × 4 × 3 × 2 = 960x ≈ 1000x

Perhitungan mengharuskan setiap peningkatan digabungkan secara optimal—tidak mungkin dalam penerapan dunia nyata. Penilaian yang lebih realistis menyarankan peningkatan 50-100x untuk beban kerja inferensi yang dioptimalkan, dengan peningkatan pelatihan lebih dekat ke 10-20x.¹⁹

Reaksi Industri

Analis dan pesaing menyambut klaim 1000x dengan skeptisisme terukur:

Respons NVIDIA: Tim Jensen Huang menolak berkomentar langsung tetapi mencatat bahwa perhitungan peningkatan majemuk serupa secara teoritis dapat diterapkan pada roadmap vendor mana pun—metodologi memungkinkan angka yang mengesankan tanpa harus memprediksi hasil dunia nyata.²⁰

Analisis Independen: SemiAnalysis memperkirakan peningkatan MI500 yang realistis pada 80-120x untuk inferensi, 15-25x untuk pelatihan—substansial tetapi jauh di bawah klaim pemasaran 1000x.²¹

Penerimaan Pelanggan: Tim AI enterprise mengungkapkan optimisme yang hati-hati. Peningkatan arah lebih penting daripada pengali yang tepat—jika MI500 memberikan bahkan 50x dibandingkan MI300X, AMD menjadi benar-benar kompetitif untuk beban kerja AI frontier.²²

Strategi Infrastruktur AMD

Helios dan MI500 mewakili komponen strategi infrastruktur AI AMD yang lebih luas yang menargetkan posisi dominan NVIDIA.

Posisi Pasar

Pangsa pasar akselerator AI AMD telah tumbuh dari sekitar 5% pada 2023 menjadi perkiraan 12-15% pada 2025. Perusahaan menargetkan pangsa pasar 25%+ pada 2027—ambisius tetapi berpotensi dapat dicapai jika Helios dan MI500 memberikan kinerja yang kompetitif.²³

Tahun	Pangsa AMD	Pangsa NVIDIA	Intel/Lainnya
2023	~5%	~90%	~5%
2025	~12-15%	~80%	~5-8%
2027 (Target)	25%+	~65-70%	~5-10%

Kemenangan Pelanggan

AMD telah mengamankan komitmen pelanggan yang signifikan yang memvalidasi daya saing Helios:

Microsoft Azure: Perjanjian multi-tahun untuk penerapan MI455X di infrastruktur Azure AI, melengkapi kapasitas NVIDIA yang ada.²⁴

Meta: Kemitraan berkelanjutan untuk infrastruktur inferensi, dengan kluster MI455X mendukung beban kerja produksi.²⁵

Oracle Cloud: Sistem Helios direncanakan untuk Oracle Cloud Infrastructure, menyediakan alternatif untuk opsi khusus NVIDIA.²⁶

Lab Nasional: Argonne dan Oak Ridge telah berkomitmen untuk evaluasi Helios untuk beban kerja komputasi ilmiah.²⁷

Strategi Harga

AMD memposisikan Helios 15-25% di bawah sistem NVIDIA yang sebanding—pilihan yang disengaja untuk menangkap pelanggan yang sensitif terhadap harga dan membangun kehadiran pasar:²⁸

Sistem	Perkiraan Harga
AMD Helios (72x MI455X)	$2,4-3,2 juta
NVIDIA Vera Rubin NVL72	$3,0-4,0 juta
Selisih Harga	~20% lebih rendah

Keunggulan harga bertambah dengan biaya operasional. Sistem AMD biasanya beroperasi pada konsumsi daya yang lebih rendah untuk throughput setara—meskipun keunggulan ini menyempit seiring peningkatan efisiensi NVIDIA.²⁹

Persyaratan Infrastruktur

Penerapan Helios memerlukan investasi infrastruktur yang sebanding dengan sistem NVIDIA:

Persyaratan Pendinginan

Parameter	AMD Helios	NVIDIA NVL72
Metode Pendinginan	Hibrid udara/cairan	100% cairan
Pembuangan Panas	~140 kW	120-130 kW
Suhu Pendingin	Suplai 20-30°C	Suplai 15-25°C
Aliran Udara (jika hibrid)	15.000 CFM	T/A

Helios mendukung konfigurasi pendinginan hibrid—penukar panas pintu belakang dikombinasikan dengan aliran udara yang ditingkatkan—memberikan fleksibilitas untuk fasilitas yang tidak dapat menerapkan pendinginan cairan langsung penuh. Opsionalitas ini mengurangi hambatan infrastruktur untuk adopsi.³⁰

Distribusi Daya

Persyaratan	AMD Helios
Total Daya	~140 kW
Opsi Tegangan	48V DC, 400V DC, 480V AC
Redundansi	Minimum N+1
Runtime UPS	10+ menit direkomendasikan

Fleksibilitas tegangan AMD mendukung berbagai konfigurasi fasilitas. Organisasi dengan infrastruktur 48V DC yang ada dapat menerapkan tanpa upgrade distribusi daya—mengurangi waktu penerapan dibandingkan dengan preferensi 800V DC NVIDIA.³¹

Jaringan

Sistem Helios terintegrasi dengan jaringan data center standar:

Komponen	Spesifikasi
Konektivitas Eksternal	36x 400GbE
Dukungan Protokol	RoCE v2, InfiniBand
Manajer Fabric	AMD Infinity Fabric Manager
Telemetri	AMD Management Interface

Dukungan RoCE v2 memungkinkan penerapan melalui infrastruktur Ethernet standar—menghindari jaringan khusus InfiniBand yang sering diperlukan sistem NVIDIA untuk kinerja optimal.³²

ROCm 7.0: Menutup Kesenjangan Perangkat Lunak

Rilis ROCm 7.0 AMD menyertai Helios, menargetkan kesenjangan ekosistem perangkat lunak yang secara historis membatasi adopsi AMD:

Peningkatan Utama

Model Pemrograman Terpadu: ROCm 7.0 memperkenalkan HIP 4.0 dengan terjemahan CUDA yang ditingkatkan. Aplikasi yang memerlukan modifikasi minimal dapat porting dari CUDA—AMD mengklaim kompatibilitas kode 90%+ untuk beban kerja ML standar.³³

Optimasi Framework: Optimasi native untuk PyTorch 3.0 dan TensorFlow 3.0 memberikan paritas kinerja dengan CUDA untuk operasi umum. Pengembangan kernel kustom masih menguntungkan CUDA, tetapi penggunaan tingkat framework mencapai throughput yang kompetitif.³⁴

Stack Inferensi: Mesin inferensi MIGraphX AMD mencakup optimasi untuk arsitektur transformer, decoding spekulatif, dan batching berkelanjutan—menyamai kemampuan NVIDIA TensorRT untuk arsitektur model standar.³⁵

Alat Enterprise: ROCm 7.0 menambahkan alat profiling, debugging, dan monitoring yang komprehensif. AMD Infinity Hub menyediakan container yang sudah dioptimalkan untuk beban kerja umum.³⁶

Kesenjangan yang Tersisa

Meskipun ada peningkatan, kesenjangan ROCm tetap ada:

• Pengembangan kernel kustom memerlukan lebih banyak keahlian daripada CUDA
• Dukungan library pihak ketiga tetap lebih sempit
• Basis pengetahuan komunitas lebih kecil
• Beberapa operasi khusus tidak memiliki implementasi yang dioptimalkan

Organisasi dengan keahlian CUDA yang ada menghadapi biaya peralihan. Penerapan greenfield menghadapi lebih sedikit hambatan—menjadikan penyedia cloud dan pendatang AI baru sebagai pelanggan AMD yang natural.³⁷

Dinamika Kompetitif

Kompetisi AMD-NVIDIA menguntungkan pasar infrastruktur AI yang lebih luas melalui inovasi yang dipercepat dan tekanan harga.

Akselerasi Teknologi

Kompetisi mendorong siklus pengembangan yang lebih cepat:

Metrik	2023	2026
FLOPS AI Puncak (chip tunggal)	5 PFLOPS	50 PFLOPS
Kapasitas HBM (chip tunggal)	192GB	432GB
Bandwidth Memori	5 TB/s	24 TB/s
Siklus Generasi	24 bulan	18 bulan

Siklus Blackwell-ke-Rubin 18 bulan NVIDIA dan akselerasi paralel AMD mencerminkan tekanan kompetitif yang memaksa iterasi lebih cepat.³⁸

Efek Harga

Kehadiran pasar AMD membatasi kekuatan penetapan harga NVIDIA:

• H100 diluncurkan dengan harga daftar $30.000+
• Harga daftar Rubin dilaporkan 10-15% lebih rendah dari Blackwell pada kinerja setara
• Diskon enterprise telah meningkat dari 15-20% menjadi 25-35%

Total biaya infrastruktur AI telah menurun lebih cepat dari yang diprediksi Hukum Moore—efek kompetisi melipatgandakan peningkatan semikonduktor.³⁹

Daya Tawar Pelanggan

Strategi multi-vendor memberikan daya tawar negosiasi:

Penyedia Cloud: AWS, Azure, dan GCP menerapkan AMD dan NVIDIA, memungkinkan penempatan yang sesuai dengan beban kerja dan diversifikasi pemasok

Enterprise: Organisasi yang mengkualifikasi kedua platform mendapatkan daya tawar harga dan ketahanan rantai pasokan

Lab AI: Strategi dual-vendor melindungi dari kendala alokasi

Duopoli AMD-NVIDIA melayani pelanggan lebih baik daripada monopoli NVIDIA—bahkan organisasi yang secara eksklusif menggunakan NVIDIA mendapat manfaat dari tekanan kompetitif.⁴⁰

Apa Artinya Ini untuk Keputusan Infrastruktur

Ketersediaan Helios menciptakan pilihan nyata dalam infrastruktur AI berkinerja tinggi:

Kapan Mempertimbangkan AMD

• Beban kerja inferensi terikat memori yang mendapat manfaat dari 432GB per akselerator
• Penerapan sensitif harga di mana penghematan 15-25% membenarkan biaya peralihan
• Organisasi yang mencari diversifikasi rantai pasokan
• Penerapan greenfield tanpa lock-in CUDA
• Beban kerja di mana ROCm 7.0 mencapai paritas kinerja

Kapan NVIDIA Tetap Disukai

• Beban kerja pelatihan yang memerlukan bandwidth interkoneksi maksimum
• Codebase yang dioptimalkan CUDA yang ada dengan kustomisasi signifikan
• Penerapan misi-kritis yang memerlukan ekosistem perangkat lunak yang terbukti
• Beban kerja yang bergantung pada optimasi khusus NVIDIA
• Organisasi tanpa keahlian ROCm

Perencanaan Infrastruktur

Kedua platform memerlukan investasi infrastruktur yang serupa:

Komponen	AMD Helios	NVIDIA NVL72
Pendinginan	Hibrid atau cairan	Cairan saja
Daya	140 kW	120-130 kW
Jaringan	400G Ethernet/IB	800G disukai
Ruang Lantai	2x rak	1x rak

Opsi pendinginan hibrid AMD dan fleksibilitas tegangan mengurangi hambatan infrastruktur—tetapi jejak rak lebar ganda memengaruhi perencanaan fasilitas.⁴¹

Melihat ke Depan

AMD telah membangun kompetisi yang kredibel dalam infrastruktur AI. Helios memberikan alternatif nyata untuk dominasi NVIDIA, dan pengembangan MI500 menjanjikan kemajuan kemampuan yang berkelanjutan.

Klaim pemasaran 1000x memerlukan skeptisisme yang tepat. Peningkatan dunia nyata kemungkinan akan kurang dari perhitungan teoretis majemuk. Tetapi bahkan peningkatan 50-100x memposisikan AMD sebagai pilihan yang layak untuk beban kerja AI frontier.

Dinamika pasar telah bergeser secara permanen. Pangsa pasar 90%+ NVIDIA akan terkikis seiring AMD menunjukkan kinerja yang kompetitif. Kompetisi yang dihasilkan menguntungkan semua pelanggan infrastruktur AI melalui inovasi yang lebih cepat dan harga yang lebih baik.

Bagi operator data center, implikasinya jelas: kualifikasi kedua platform sekarang. Organisasi yang secara eksklusif berkomitmen pada NVIDIA mengorbankan daya tawar negosiasi dan ketahanan rantai pasokan. Mereka yang mengevaluasi AMD mendapatkan opsionalitas—dan di pasar infrastruktur AI yang terbatas, opsionalitas memiliki nilai signifikan.

---

Introl menyediakan layanan infrastruktur untuk sistem AI AMD dan NVIDIA. 550 insinyur lapangan kami mendukung penerapan di 257 lokasi global, dengan keahlian dalam pendinginan, daya, dan jaringan untuk infrastruktur AI kepadatan tinggi. Hubungi kami untuk mendiskusikan kebutuhan Anda.

Referensi