Cerebras Wafer-Scale Engine: коли обирати альтернативну архітектуру ШІ

Оновлено 11 грудня 2025 року

Оновлення грудня 2025: CS-3 із WSE-3 забезпечує швидкість роботи Llama 4 Maverick 2500 токенів на секунду на користувача — вдвічі швидше, ніж флагманська система NVIDIA DGX B200 Blackwell. WSE-3 містить 4 трильйони транзисторів, 900 000 ШІ-ядер, 44 ГБ вбудованої SRAM із пропускною здатністю пам'яті 21 ПБ/с (у 7000 разів більше, ніж H100). Пластинкова архітектура усуває вузькі місця міжз'єднань GPU-кластерів для робочих навантажень, обмежених пропускною здатністю пам'яті.

Cerebras забезпечив інференс Llama 4 Maverick зі швидкістю 2500 токенів на секунду на користувача — більш ніж удвічі швидше, ніж флагманська система NVIDIA DGX B200 Blackwell із тією самою моделлю на 400 мільярдів параметрів.¹ Різниця в продуктивності відображає фундаментальне архітектурне розходження: Cerebras виготовляє процесори з цілих кремнієвих пластин замість того, щоб різати пластини на сотні окремих чипів. Такий підхід усуває вузькі місця міжз'єднань, що обмежують GPU-кластери, обмінюючи традиційну економіку виробництва на сиру продуктивність для ШІ-навантажень, обмежених пропускною здатністю пам'яті.

CS-3 на базі WSE-3 (Wafer-Scale Engine 3) містить 4 трильйони транзисторів на 900 000 оптимізованих для ШІ ядрах із 44 ГБ вбудованої SRAM, що забезпечує пропускну здатність пам'яті 21 петабайт на секунду.² Для порівняння: ця пропускна здатність пам'яті перевищує показник H100 у 7000 разів. Організації, що оцінюють ШІ-інфраструктуру, стоять перед справжнім архітектурним вибором: масштабуватися горизонтально за допомогою GPU-кластерів з їхніми притаманними комунікаційними накладними витратами чи розгортати пластинкові системи, спеціально створені для обмежень пропускної здатності пам'яті, які домінують у продуктивності великих мовних моделей.

Пластинковий підхід

Традиційне виробництво чипів

Стандартне напівпровідникове виробництво слідує усталеному шаблону:³

1. Виготовлення: обробка кремнієвої пластини через сотні етапів
2. Тестування: виявлення дефектних ділянок
3. Нарізка: розрізання пластини на сотні окремих кристалів
4. Корпусування: монтаж якісних кристалів у корпуси зі з'єднаннями
5. Інтеграція: з'єднання кількох корпусів для систем

Цей підхід дає чипи максимум приблизно 800 квадратних міліметрів — обмеження, зумовлене літографічним обладнанням та економікою виходу придатних виробів. Більші чипи означають більше дефектів на кристал, що зменшує кількість функціональних одиниць з кожної пластини.

Інновація Cerebras

Cerebras перевернув виробниче рівняння:⁴

Однокристальна пластина: замість нарізки пластин на дрібні чипи Cerebras використовує майже всю 300-мм пластину (46 225 мм²) як один процесор — приблизно в 50 разів більше за звичайний кристал GPU.

Толерантність до дефектів: проблему виходу придатних виробів, яка запобігає традиційним пластинковим чипам, було вирішено через архітектурну інновацію: - Окремі ядра зменшено до 0,05 мм² (1% від розміру SM-ядра H100) - Резервні ядра замінюють дефектні - Внутрішньокристальна комутаційна мережа обходить несправності - 100-кратне покращення толерантності до дефектів порівняно зі звичайними багатоядерними процесорами

Все на кристалі: пам'ять, обчислення та міжз'єднання розташовані на одному кремнії, що усуває обмеження пропускної здатності зовнішньої пам'яті та міжчипових з'єднань.

Архітектурні переваги

Пластинковий підхід забезпечує конкретні переваги:⁵

Пропускна здатність пам'яті: - WSE-3: 21 ПБ/с пропускна здатність вбудованої SRAM - H100: 3 ТБ/с пропускна здатність HBM - Співвідношення: перевага в 7000 разів

Пропускна здатність міжз'єднань: - WSE-3: 214 Пб/с внутрішньопластинкова комутаційна мережа - H100 NVLink: 57,6 ГБ/с на GPU - Співвідношення: перевага в 3715 разів

Обсяг пам'яті: - WSE-3: 44 ГБ вбудованої SRAM (розширюється за допомогою зовнішньої MemoryX) - H100: 80 ГБ HBM3

Енергоефективність: - Простота одного пристрою усуває накладні витрати на координацію між кількома чипами - Немає зовнішніх контролерів пам'яті, комутаторів міжз'єднань чи доріжок на платі - Заявлена перевага в енергоефективності над GPU-кластерами для еквівалентних навантажень

Специфікації WSE-3 та CS-3

Базова архітектура

WSE-3 представляє третє покоління пластинкової технології Cerebras:⁶

Специфікації кремнію: - Технологічний процес: TSMC 5 нм - Площа кристала: 46 225 мм² (21,5 см × 21,5 см) - Кількість транзисторів: 4 трильйони - ШІ-ядра: 900 000 - Пікова продуктивність: 125 петаФЛОПС (FP16)

Система пам'яті: - Вбудована SRAM: 44 ГБ - Пропускна здатність SRAM: 21 ПБ/с - Розширення зовнішньої пам'яті: MemoryX (до 1,5 ПБ на систему) - Пропускна здатність до зовнішньої пам'яті: пропрієтарне високошвидкісне міжз'єднання

Міжз'єднання: - Внутрішньопластинкова комутаційна мережа: сукупна пропускна здатність 214 Пб/с - Зв'язок ядро-ядро: затримка в один такт - Без позакристального маршрутування для внутрішньопластинкового зв'язку

Система CS-3

CS-3 упаковує WSE-3 у систему для розгортання:⁷

Фізичні специфікації: - Форм-фактор: 15U стійковий блок - Споживана потужність: ~23 кВт - Охолодження: пропрієтарна система водяного охолодження

Компоненти системи: - Процесор WSE-3 - Зовнішня пам'ять MemoryX (опційно) - Кластерне міжз'єднання SwarmX (для розгортання кількох CS-3) - Системи управління та введення/виведення

Масштабування кластера: - Максимальний кластер: 2048 систем CS-3 - Обчислювальна потужність кластера: до 256 ексаФЛОПС (FP16) - Ємність моделі: до 24 трильйонів параметрів - Можливості навчання: Llama 2-70B можна навчити за один день на невеликому кластері

Порівняння поколінь

Характеристики продуктивності

Швидкість інференсу

Cerebras демонструє суттєві переваги в інференсі:⁸

Llama 4 Maverick (400 мільярдів параметрів): - Cerebras: 2500+ токенів/секунду/користувач - NVIDIA DGX B200: ~1000 токенів/секунду/користувач - Перевага: >2,5 рази

Моделі Llama 3.1: - Llama 3.1 8B: світовий рекорд швидкості інференсу - Llama 3.1 70B: в кілька разів швидше за GPU-альтернативи - Llama 3.1 405B: підтримується в хмарі Cerebras

Чому інференс настільки ефективний: Генерація токенів LLM обмежена пропускною здатністю пам'яті — кожен токен вимагає завантаження ваг моделі з пам'яті для обчислень. Внутрішньокристальна пропускна здатність Cerebras у 21 ПБ/с усуває «стіну пам'яті», що обмежує GPU-інференс.

Продуктивність навчання

Переваги навчання виникають із спрощених розподілених обчислень:⁹

Зменшення складності коду: Навчання моделі на 175 мільярдів параметрів на 4000 GPU зазвичай вимагає приблизно 20 000 рядків коду розподіленого навчання. Cerebras виконує еквівалентне навчання з 565 рядками — уся модель поміщається на пластину без складності паралелізму даних.

Усунення комунікацій: Продуктивність GPU-навчання знижується зі збільшенням розміру кластера через накладні витрати на синхронізацію градієнтів. Cerebras усуває ці накладні витрати для моделей, що поміщаються на кристалі, підтримуючи лінійне масштабування для відповідних навантажень.

Бенчмарки часу навчання: - Llama 2-70B: можна навчити за один день на кластері CS-3 - Моделі до 24 трильйонів параметрів: підтримуються без програмних трюків розподілу

Наукові обчислення

Окрім LLM, Cerebras демонструє переваги в наукових симуляціях:¹⁰

Молекулярна динаміка: Cerebras досяг симуляцій молекулярної динаміки на тривалих часових масштабах у 179 разів швидше, ніж суперкомп'ютер №1 у світі (Frontier). Патерни доступу до пам'яті цього навантаження добре узгоджуються з пластинковою архітектурою.

Розробка ліків: Клініка Мейо розгорнула модель прогнозування відповіді на протиракові препарати, яка працює «в сотні разів швидше» на Cerebras, ніж на звичайних GPU.

Геноміка: Геномна базова модель Mayo Genomic Foundation Model створена спеціально на інфраструктурі Cerebras для геномного аналізу в масштабі.

Порівняння Cerebras та NVIDIA

Де Cerebras перевершує

Навантаження, обмежені пропускною здатністю пам'яті:¹¹ - Інференс LLM (особливо великих моделей) - Навчання моделей, що поміщаються на кристалі - Наукові симуляції з потоковим доступом до пам'яті - Інференс у реальному часі, що вимагає стабільно низької затримки

Спрощене розгортання: - Навчання на одному пристрої для помірних моделей (без коду розподіленого навчання) - Детермінована продуктивність (без варіації координації між кількома чипами) - Зменшена складність інфраструктури (без InfiniBand-мережі для невеликих розгортань)

Економічна ефективність (заявлена): - У 21 раз швидший інференс за 1/3 вартості DGX B200 - $0,10/мільйон токенів (Llama 3.1 8B) - $0,60/мільйон токенів (Llama 3.1 70B)

Де NVIDIA перевершує

Широта екосистеми:¹² - Програмна модель CUDA домінує в індустрії - Найширша підтримка програмних фреймворків - Найбільша спільнота розробників - Найрозгалуженіші бібліотеки оптимізації моделей

Гнучкість навантажень: - Навчання та інференс на одному обладнанні - Широка підтримка архітектур моделей - Розробка власних операцій через CUDA - Усталені патерни корпоративного розгортання

Зрілість ланцюга постачання: - Кілька OEM-системних інтеграторів - Глобальна інфраструктура підтримки - Перевірені шляхи корпоративних закупівель - Вторинний ринок вживаного обладнання

Дообучення та кастомізація: - LoRA, QLoRA, повне дообучення добре підтримуються - Розгалужена екосистема інструментів - Усталені робочі процеси корпоративного дообучення

Матриця прийняття рішень

Варіанти розгортання

Cerebras Cloud

Керований сервіс інференсу для негайного доступу:¹³

Ціни (грудень 2025): - Llama 3.1 8B: $0,10/мільйон токенів - Llama 3.1 70B: $0,60/мільйон токенів - Llama 3.1 405B: доступна - Llama 4 Scout/Maverick: підтримуються

Можливості: - API, сумісний з OpenAI - Веб-середовище для тестування - Рівні корпоративної підтримки - Відповідність SOC 2

Випадки використання: - Продакшн-інференс, що вимагає швидкості - Оцінка перед інвестиціями в локальну інфраструктуру - Змінні навантаження без капітальних зобов'язань

Локальне розгортання

Системи CS-3 для приватної інфраструктури:¹⁴

Міркування: - Значні капітальні інвестиції - Пропрієтарні вимоги до охолодження - Спеціалізована інсталяція та підтримка - Обмежений вторинний ринок (на відміну від GPU)

Найкраще для: - Вимоги суверенітету даних - Стійке високе використання - Потреби в кастомній інтеграції - Стратегічна диференціація від хмари

Виділена інфраструктура

Cerebras експлуатує виділені дата-центри:¹⁵

Локації (2025): - Оклахома-Сіті, США (300+ систем CS-3) - Монреаль, Канада (запуск у липні 2025) - Даллас, США - Ріно, США - Ірландія - Гелдерланд, Нідерланди

Потужність: - Сукупна потужність понад 40 мільйонів токенів на секунду - 20-кратне розширення потужності у 2025 році - Партнерство з G42 для додаткових потужностей

Варіанти виділеного орендаря: - Гарантований розподіл потужності - Індивідуальні угоди SLA - Підтримка корпоративної інтеграції

Клієнтські розгортання

Корпоративне впровадження

Великі організації, що використовують Cerebras:¹⁶

Технології: - Meta: партнерство для живлення Llama API - Mistral: ШІ-асистент Le Chat - Perplexity: ШІ-пошукова система - IBM: корпоративні ШІ-застосунки

Охорона здоров'я: - Клініка Мейо: геномна базова модель - GlaxoSmithKline: розробка ліків - Моделі прогнозування відповіді на протиракові препарати

Державний сектор: - Міністерство енергетики США - Міністерство оборони США - Програма DARPA MAPLE (контракт на $45M для симуляції багатодоменного поля бою)

Ініціатива суверенного ШІ

Програма Cerebras for Nations підтримує державну ШІ-інфраструктуру:¹⁷

Поточні співпраці: - Сполучені Штати - Велика Британія - Об'єднані Арабські Емірати (партнерство з G42)

Цілі розширення: - Індія - Європа (кілька країн) - Близький Схід - Азійсько-Тихоокеанський регіон - Латинська Америка

Ціннісна пропозиція: - ШІ-інфраструктура всередині країни - Відповідність вимогам суверенітету даних - Розвиток національних можливостей - Зменшення залежності від іноземних хмар

Інфраструктурні міркування

Електроживлення та охолодження

Системи Cerebras вимагають спеціалізованої інфраструктури:¹⁸

Вимоги до електроживлення: - CS-3: ~23 кВт на

[Контент скорочено для перекладу]