Cerebras Wafer-Scale Engine: Kapan Memilih Arsitektur AI Alternatif

Diperbarui 11 Desember 2025

Pembaruan Desember 2025: CS-3 dengan WSE-3 menghadirkan Llama 4 Maverick pada 2.500 token/detik per pengguna—2x+ lebih cepat dari DGX B200 Blackwell. WSE-3 berisi 4 triliun transistor, 900.000 core AI, 44GB SRAM on-chip dengan bandwidth memori 21 PB/s (7.000x H100). Arsitektur wafer-scale menghilangkan bottleneck interkoneksi cluster GPU untuk beban kerja yang dibatasi bandwidth memori.

Cerebras menghadirkan inferensi Llama 4 Maverick pada 2.500 token per detik per pengguna—lebih dari dua kali lipat sistem flagship NVIDIA DGX B200 Blackwell yang menjalankan model 400 miliar parameter yang sama.¹ Kesenjangan performa ini mencerminkan divergensi arsitektur fundamental: Cerebras membangun prosesor dari seluruh wafer silikon daripada memotong wafer menjadi ratusan chip individual. Pendekatan ini menghilangkan bottleneck interkoneksi yang membatasi cluster GPU, menukar ekonomi manufaktur konvensional dengan performa mentah pada beban kerja AI yang dibatasi bandwidth memori.

CS-3, yang ditenagai oleh WSE-3 (Wafer-Scale Engine 3), berisi 4 triliun transistor di 900.000 core yang dioptimalkan untuk AI dengan 44GB SRAM on-chip yang menghadirkan bandwidth memori 21 petabyte per detik.² Sebagai konteks, bandwidth memori tersebut melebihi H100 sebesar 7.000x. Organisasi yang mengevaluasi infrastruktur AI menghadapi pilihan arsitektur yang sesungguhnya: scaling horizontal dengan cluster GPU dan overhead komunikasi inherennya, atau menerapkan sistem wafer-scale yang dibangun khusus untuk kendala bandwidth memori yang mendominasi performa LLM.

Pendekatan wafer-scale

Manufaktur chip tradisional

Manufaktur semikonduktor standar mengikuti pola yang sudah mapan:³

1. Fabrikasi: Memproses wafer silikon melalui ratusan langkah
2. Pengujian: Mengidentifikasi area yang cacat
3. Pemotongan: Memotong wafer menjadi ratusan die individual
4. Pengemasan: Memasang die yang bagus ke dalam kemasan dengan koneksi
5. Integrasi: Menghubungkan beberapa kemasan untuk sistem

Pendekatan ini menghasilkan chip dengan maksimum sekitar 800 milimeter persegi—batas yang ditentukan oleh peralatan litografi dan ekonomi yield. Chip yang lebih besar berarti lebih banyak cacat per die, mengurangi jumlah unit fungsional dari setiap wafer.

Inovasi Cerebras

Cerebras membalikkan persamaan manufaktur:⁴

Wafer chip tunggal: Alih-alih memotong wafer menjadi chip kecil, Cerebras menggunakan hampir seluruh wafer 300mm (46.225 mm²) sebagai satu prosesor—sekitar 50x lebih besar dari die GPU konvensional.

Toleransi cacat: Masalah yield yang mencegah chip wafer-scale tradisional diselesaikan melalui inovasi arsitektur: - Core individual dikurangi menjadi 0,05mm² (1% dari ukuran core SM H100) - Core redundan menggantikan yang cacat - Fabric on-chip merutekan di sekitar kegagalan - Peningkatan toleransi cacat 100x dibandingkan prosesor multi-core konvensional

Semua on-chip: Memori, komputasi, dan interkoneksi semuanya berada di silikon yang sama, menghilangkan keterbatasan bandwidth dari memori eksternal dan koneksi antar-chip.

Keunggulan arsitektur

Pendekatan wafer-scale memberikan manfaat spesifik:⁵

Bandwidth memori: - WSE-3: bandwidth SRAM on-chip 21 PB/s - H100: bandwidth HBM 3 TB/s - Rasio: keunggulan 7.000x

Bandwidth interkoneksi: - WSE-3: fabric on-wafer 214 Pb/s - H100 NVLink: 57,6 GB/s per GPU - Rasio: keunggulan 3.715x

Kapasitas memori: - WSE-3: SRAM on-chip 44 GB (dapat diperluas dengan MemoryX eksternal) - H100: HBM3 80 GB

Efisiensi daya: - Kesederhanaan perangkat tunggal menghilangkan overhead koordinasi multi-chip - Tidak ada pengontrol memori eksternal, switch interkoneksi, atau trace PCB - Dilaporkan memiliki keunggulan efisiensi energi dibandingkan cluster GPU untuk beban kerja setara

Spesifikasi WSE-3 dan CS-3

Arsitektur core

WSE-3 merepresentasikan generasi ketiga dari teknologi wafer-scale Cerebras:⁶

Spesifikasi silikon: - Node proses: TSMC 5nm - Area die: 46.225 mm² (21,5 cm × 21,5 cm) - Jumlah transistor: 4 triliun - Core AI: 900.000 - Performa puncak: 125 PetaFLOPs (FP16)

Sistem memori: - SRAM on-chip: 44 GB - Bandwidth SRAM: 21 PB/s - Ekspansi memori eksternal: MemoryX (hingga 1,5 PB per sistem) - Bandwidth memori ke eksternal: Interkoneksi bandwidth tinggi proprietary

Interkoneksi: - Fabric on-wafer: bandwidth agregat 214 Pb/s - Komunikasi core-ke-core: Latensi satu siklus clock - Tidak ada routing off-chip untuk komunikasi intra-wafer

Sistem CS-3

CS-3 mengemas WSE-3 menjadi sistem yang dapat diterapkan:⁷

Spesifikasi fisik: - Form factor: unit rack 15U - Konsumsi daya: ~23 kW - Pendinginan: Sistem pendingin air proprietary

Komponen sistem: - Prosesor WSE-3 - Memori eksternal MemoryX (opsional) - Interkoneksi cluster SwarmX (untuk deployment multi-CS-3) - Sistem manajemen dan I/O

Scaling cluster: - Cluster maksimum: 2.048 sistem CS-3 - Komputasi cluster: Hingga 256 ExaFLOPs (FP16) - Kapasitas model: Hingga 24 triliun parameter - Kemampuan training: Llama 2-70B dapat ditraining dalam satu hari pada cluster sederhana

Perbandingan generasi

Karakteristik performa

Kecepatan inferensi

Cerebras mendemonstrasikan keunggulan inferensi yang substansial:⁸

Llama 4 Maverick (400B parameter): - Cerebras: 2.500+ token/detik/pengguna - NVIDIA DGX B200: ~1.000 token/detik/pengguna - Keunggulan: >2,5x

Model Llama 3.1: - Llama 3.1 8B: Kecepatan inferensi rekor dunia - Llama 3.1 70B: Beberapa kali lebih cepat dari alternatif GPU - Llama 3.1 405B: Didukung di cloud Cerebras

Mengapa inferensi unggul: Generasi token LLM terbatas pada bandwidth memori—setiap token memerlukan pemuatan bobot model dari memori ke komputasi. Bandwidth on-chip 21 PB/s Cerebras menghilangkan memory wall yang membatasi inferensi GPU.

Performa training

Keunggulan training muncul dari komputasi terdistribusi yang disederhanakan:⁹

Pengurangan kompleksitas kode: Training model 175 miliar parameter pada 4.000 GPU biasanya memerlukan sekitar 20.000 baris kode training terdistribusi. Cerebras mencapai training setara dengan 565 baris—seluruh model muat di wafer tanpa kompleksitas paralelisme data.

Eliminasi komunikasi: Performa training GPU menurun seiring meningkatnya ukuran cluster karena overhead sinkronisasi gradien. Cerebras menghilangkan overhead ini untuk model yang muat on-chip, mempertahankan scaling linear untuk beban kerja yang sesuai.

Benchmark waktu training: - Llama 2-70B: Dapat ditraining dalam satu hari pada cluster CS-3 - Model hingga 24 triliun parameter: Didukung tanpa trik distribusi software

Komputasi ilmiah

Di luar LLM, Cerebras mendemonstrasikan keunggulan dalam simulasi ilmiah:¹⁰

Dinamika molekuler: Cerebras mencapai simulasi dinamika molekuler jangka panjang 179x lebih cepat dari superkomputer #1 dunia (Frontier). Pola akses memori beban kerja ini selaras dengan baik dengan arsitektur wafer-scale.

Penemuan obat: Mayo Clinic menerapkan model prediksi respons obat kanker yang berjalan "ratusan kali lebih cepat" di Cerebras daripada di GPU konvensional.

Genomik: Mayo Genomic Foundation Model dibangun khusus pada infrastruktur Cerebras untuk analisis genomik skala besar.

Perbandingan Cerebras vs. NVIDIA

Di mana Cerebras unggul

Beban kerja yang dibatasi bandwidth memori:¹¹ - Inferensi LLM (terutama model besar) - Training model yang muat on-chip - Simulasi ilmiah dengan akses memori streaming - Inferensi real-time yang memerlukan latensi rendah konsisten

Deployment yang disederhanakan: - Training perangkat tunggal untuk model sedang (tanpa kode training terdistribusi) - Performa deterministik (tanpa varians koordinasi multi-chip) - Kompleksitas infrastruktur berkurang (tanpa fabric InfiniBand untuk deployment kecil)

Efisiensi biaya (diklaim): - Inferensi 21x lebih cepat dengan 1/3 biaya DGX B200 - $0,10/juta token (Llama 3.1 8B) - $0,60/juta token (Llama 3.1 70B)

Di mana NVIDIA unggul

Keluasan ekosistem:¹² - Model pemrograman CUDA mendominasi industri - Dukungan framework software terluas - Komunitas developer terbesar - Library optimisasi model paling ekstensif

Fleksibilitas beban kerja: - Training dan inferensi pada hardware yang sama - Dukungan arsitektur model yang luas - Pengembangan operasi kustom melalui CUDA - Pola deployment enterprise yang mapan

Kematangan supply chain: - Beberapa integrator sistem OEM - Infrastruktur dukungan global - Jalur pengadaan enterprise yang terbukti - Pasar sekunder untuk peralatan bekas

Fine-tuning dan kustomisasi: - LoRA, QLoRA, full fine-tuning didukung dengan baik - Ekosistem tooling yang ekstensif - Workflow fine-tuning enterprise yang mapan

Matriks keputusan

Opsi deployment

Cerebras Cloud

Layanan inferensi terkelola untuk akses langsung:¹³

Harga (Desember 2025): - Llama 3.1 8B: $0,10/juta token - Llama 3.1 70B: $0,60/juta token - Llama 3.1 405B: Tersedia - Llama 4 Scout/Maverick: Didukung

Fitur: - API kompatibel OpenAI - Playground web untuk pengujian - Tier dukungan enterprise - Kepatuhan SOC 2

Kasus penggunaan: - Inferensi produksi yang memerlukan kecepatan - Evaluasi sebelum investasi on-premises - Beban kerja variabel tanpa komitmen modal

Deployment on-premises

Sistem CS-3 untuk infrastruktur pribadi:¹⁴

Pertimbangan: - Investasi modal yang signifikan - Kebutuhan pendinginan proprietary - Instalasi dan dukungan khusus - Pasar sekunder terbatas (tidak seperti GPU)

Terbaik untuk: - Kebutuhan kedaulatan data - Utilisasi tinggi yang berkelanjutan - Kebutuhan integrasi kustom - Diferensiasi strategis dari cloud

Infrastruktur dedicated

Cerebras mengoperasikan datacenter dedicated:¹⁵

Lokasi (2025): - Oklahoma City, USA (300+ sistem CS-3) - Montreal, Kanada (beroperasi Juli 2025) - Dallas, USA - Reno, USA - Irlandia - Gelderland, Belanda

Kapasitas: - Kapasitas agregat 40+ juta token per detik - Ekspansi kapasitas 20x pada 2025 - Kemitraan dengan G42 untuk fasilitas tambahan

Opsi tenant dedicated: - Alokasi kapasitas terjamin - Perjanjian SLA kustom - Dukungan integrasi enterprise

Deployment pelanggan

Adopsi enterprise

Organisasi besar yang menerapkan Cerebras:¹⁶

Teknologi: - Meta: Kemitraan yang menggerakkan Llama API - Mistral: Asisten AI Le Chat - Perplexity: Mesin pencari AI - IBM: Aplikasi AI enterprise

Kesehatan: - Mayo Clinic: Genomic Foundation Model - GlaxoSmithKline: Penemuan obat - Model prediksi respons obat kanker

Pemerintah: - Departemen Energi AS - Departemen Pertahanan AS - Program DARPA MAPLE (kontrak $45M untuk simulasi medan perang multi-domain)

Inisiatif Sovereign AI

Program Cerebras for Nations mendukung infrastruktur AI pemerintah:¹⁷

Engagement saat ini: - Amerika Serikat - Inggris - Uni Emirat Arab (kemitraan G42)

Target ekspansi: - India - Eropa (beberapa negara) - Timur Tengah - Asia-Pasifik - Amerika Latin

Proposisi nilai: - Infrastruktur AI dalam negeri - Kepatuhan kedaulatan data - Pengembangan kapabilitas nasional - Pengurangan ketergantungan pada cloud asing

Pertimbangan infrastruktur

Daya dan pendinginan

Sistem Cerebras memerlukan infrastruktur khusus:¹⁸

Kebutuhan daya: - CS-3: ~23 kW per