AI прискорювачі поза GPU: альтернативний ландшафт кремнію

Оновлено 11 грудня 2025

Оновлення за грудень 2025: AWS Trainium3 відвантажується з 2,52 PFLOPS FP8 на чіп та 144GB HBM3e. Google TPU v7 Ironwood забезпечує 4,614 TFLOPS на чіп — аналітики називають це «на рівні з Blackwell». Intel підтверджує припинення Gaudi з виходом GPU наступного покоління 2026-2027. Groq LPU досягає 750 токенів/сек на менших моделях, тоді як Cerebras WSE-3 досягає 125 PFLOPS піку. Альтернативний кремній набирає популярність для специфічних робочих навантажень попри 80% домінування NVIDIA на ринку.

NVIDIA володіє приблизно 80% ринку AI прискорювачів, але зростаючий попит на економічно ефективну та вертикально інтегровану інфраструктуру повільно збільшує впровадження альтернативного кремнію.¹ Google випустив свій TPU сьомого покоління Ironwood у листопаді 2025, який аналітики описують як «можливо, на рівні з NVIDIA Blackwell».² AWS розгорнув понад 500,000 чіпів Trainium2 для навчання моделей Anthropic — найбільший виробничий AI кластер без NVIDIA.³ Cerebras запустив WSE-3 з 4 трильйонами транзисторів та 125 петафлопс пікової продуктивності.⁴ Ландшафт AI прискорювачів виходить далеко за межі GPU, пропонуючи архітектури, оптимізовані для специфічних робочих навантажень, які підприємства все частіше оцінюють.

GPU залишається стандартним вибором для гнучкості та зрілості екосистеми. Домінування CUDA та постійні інновації NVIDIA роблять витрати на перехід суттєвими. Проте гіпермасштабувальники, які розробляють власний кремній, стартапи, що кидають виклик припущенням про архітектуру чіпів, та агресивне ціноутворення Intel створюють варіанти, яких не існувало п'ять років тому. Організації, що працюють з AI у великих масштабах, тепер оцінюють вибір прискорювачів як стратегічні рішення щодо інфраструктури, а не як товарні закупівлі.

Google TPU: еталон гіпермасштабувальника

Google оголосив Trillium (TPU v6) у травні 2024 та зробив його загальнодоступним у 2025.⁵ TPU шостого покоління досягає у 4,7 рази вищої пікової обчислювальної продуктивності на чіп порівняно з TPU v5e.⁶ Google розширив розміри блоків матричного множення та збільшив тактові частоти, досягнувши приблизно 926 терафлопс продуктивності BF16.⁷

Ємність пам'яті та пропускна здатність подвоїлися порівняно з попереднім поколінням.⁸ Trillium забезпечує 32 гігабайти ємності HBM на чіп з пропорційно збільшеною пропускною здатністю.⁹ Пропускна здатність міжчіпового з'єднання також подвоїлася, покращивши ефективність масштабування багатьох чіпів.¹⁰

Енергоефективність покращилася понад на 67% порівняно з TPU v5e.¹¹ Аналітики галузі оцінюють, що TPU v6 працює на 60-65% ефективніше за GPU, порівняно з 40-45% перевагами в ефективності в попередніх поколіннях.¹² Переваги в ефективності складаються на рівні дата-центру, де обмеження потужності лімітують щільність розгортання.

Trillium масштабується до 256 TPU в одному поді з високою пропускною здатністю та низькою затримкою.¹³ Поза масштабованістю на рівні поду, технологія multislice та Titanium Intelligence Processing Units дозволяють масштабування до сотень подів, з'єднуючи десятки тисяч чіпів у суперкомп'ютери масштабу будівлі.¹⁴ Найбільший кластер Trillium забезпечує 91 ексафлопс — у чотири рази більше за найбільший кластер TPU v5p.¹⁵

Бенчмарки навчання демонструють покращення продуктивності. Trillium забезпечив понад четырикратне збільшення продуктивності навчання для Gemma 2-27B, MaxText Default-32B та Llama2-70B порівняно з TPU v5e.¹⁶ Пропускна здатність виведення покращилася втричі для Stable Diffusion XL.¹⁷ Google використав Trillium для навчання Gemini 2.0.¹⁸

Google представив TPU v7 (Ironwood) на Cloud Next у квітні 2025.¹⁹ Ironwood забезпечує 4,614 терафлопс на чіп і буде відвантажуватися в конфігураціях по 256 чіпів та 9,216 чіпів.²⁰ Команда SemiAnalysis похвалила кремній, заявивши, що перевага Google серед гіпермасштабувальників неперевершена.²¹

Доступ до TPU потребує Google Cloud. Організації, зобов'язані мультихмарності або локальному розгортанню, не можуть безпосередньо використовувати інфраструктуру TPU. Модель лише для хмари обмежує впровадження для організацій з вимогами резидентності даних або суверенітету, які регіони Google Cloud не задовольняють.

AWS Trainium: партнерство з Anthropic

AWS запустив Trainium3 у грудні 2025 — перший 3нм AI чіп компанії.²² Кожен чіп Trainium3 забезпечує 2,52 петафлопс обчислень FP8 з 144 гігабайтами пам'яті HBM3e та 4,9 терабайт за секунду пропускної здатності пам'яті.²³ Специфікації представляють у 1,5 рази більше ємності пам'яті та у 1,7 рази більше пропускної здатності ніж Trainium2.²⁴

Trn3 UltraServers масштабуються до 144 чіпів Trainium3, забезпечуючи 362 петафлопс загальної продуктивності FP8.²⁵ Повністю налаштований UltraServer забезпечує 20,7 терабайт HBM3e та 706 терабайт за секунду агрегованої пропускної здатності пам'яті.²⁶ AWS заявляє у 4,4 рази більше обчислювальної продуктивності, у 4 рази вищу енергоефективність та майже у 4 рази більше пропускної здатності пам'яті ніж системи на базі Trainium2.²⁷

Fabric NeuronSwitch-v1 подвоює пропускну здатність міжчіпового з'єднання порівняно з Trn2 UltraServer.²⁸ Архітектура fabric типу всі-до-всіх забезпечує ефективне розподілене навчання на всьому комплементі чіпів.

Project Rainier представляє найбільше розгортання AI інфраструктури AWS. AWS співпрацював з Anthropic для з'єднання понад 500,000 чіпів Trainium2 у найбільший у світі кластер AI обчислень — у п'ять разів більший за інфраструктуру, використану для навчання попереднього покоління моделей Anthropic.²⁹ Партнерство демонструє життєздатність Trainium для навчання передових моделей.

Інстанси EC2 Trn2 на базі Trainium2 пропонують на 30-40% кращу співвідношення ціна-продуктивність ніж інстанси EC2 P5e та P5en на базі GPU згідно з AWS.³⁰ Перевага в вартості має значення для тривалих робочих навантажень навчання, де витрати на обчислення домінують у бюджетах.

AWS припинив лінійку Inferentia, оскільки робочі навантаження виведення все більше нагадують навчання у своїх обчислювальних вимогах.³¹ Архітектура Trainium тепер обробляє як навчання, так і виведення, спрощуючи портфоліо чіпів.

Trainium4 знаходиться в розробці з очікуваним постачанням наприкінці 2026 або на початку 2027.³² AWS оголосив принаймні у 6 разів вищу пропускну здатність FP4, у 3 рази продуктивність FP8 та у 4 рази більше пропускної здатності пам'яті порівняно з Trainium3.³³ Trainium4 підтримуватиме технологію міжз'єднання NVIDIA NVLink Fusion, забезпечуючи інтеграцію з GPU NVIDIA у загальних конфігураціях стійок.³⁴

Intel Gaudi: ціновий конкурент

Intel запустив Gaudi 3 у 2024, позиціонуючи його як економічно ефективну альтернативу NVIDIA H100.³⁵ Gaudi 3 використовує два чіпи з 64 тензорними процесорними ядрами, вісьмома механізмами матричного множення та 96 мегабайтами кешу SRAM на кристалі з 19,2 терабайт за секунду пропускної здатності.³⁶ Чіп інтегрує 128 гігабайт пам'яті HBM2e з 3,67 терабайт за секунду пропускної здатності.³⁷

Gaudi 3 забезпечує 1,835 BF16/FP8 матричних терафлопс при приблизно 600 ватах TDP.³⁸ Порівняно з NVIDIA H100, Gaudi 3 пропонує вищу матричну продуктивність BF16 (1,835 проти 1,979 терафлопс без розрідженості) та більше ємності HBM (128 проти 80 гігабайт).³⁹ Пропускна здатність пам'яті також перевищує H100.⁴⁰

Intel заявляє, що Gaudi 3 зазвичай на 40% швидший за NVIDIA H100 і може перевершити H100 до 1,7 разів при навчанні Llama2-13B у точності FP8.⁴¹ Заявки про енергоефективність більш драматичні — до 220% значення H100 на бенчмарках Llama та 230% на Falcon.⁴²

Перевага в ціноутворенні суттєва. Система з восьми прискорювачів Gaudi 3 коштує $157,613 порівняно з $300,107 за еквівалентну систему H100.⁴³ Ціноутворення за чіп становить приблизно $15,625 для Gaudi 3 проти $30,678 для H100.⁴⁴ Різниця у вартості дозволяє організаціям розгорнути приблизно вдвічі більше обчислювальної потужності за еквівалентний бюджет.

Gaudi 3 використовує HBM2e замість HBM3 або HBM3e, що сприяє нижчій вартості, але обмежує пропускну здатність пам'яті порівняно з альтернативами поточного покоління.⁴⁵ Організаціям, що виконують робочі навантаження, обмежені пропускною здатністю пам'яті, слід ретельно оцінити цей компроміс.

Виклик екосистеми обмежує впровадження Gaudi. CUDA від NVIDIA домінує в розробці AI, і перехід на інструменти Intel потребує інвестицій у розробку.⁴⁶ Частка ринку Intel у AI прискорювачах залишається незначною попри конкурентоспроможне обладнання.⁴⁷

Intel оголосив, що Gaudi буде припинено з виходом його AI GPU наступного покоління у 2026-2027.⁴⁸ Оголошення про припинення створює ризик впровадження для організацій, що розглядають багаторічні розгортання Gaudi. Партнери можуть вагатися інвестувати в лінійку продуктів з оголошеним кінцем життя.

Groq LPU: лідерство в швидкості виведення

Groq Language Processing Unit (LPU) використовує принципово інший архітектурний підхід, оптимізуючи специфічно для виведення, а не навчання.⁴⁹ Архітектура Tensor Streaming Processor досягає 750 TOPS при INT8 та 188 терафлопс при FP16 з масивною пропускною здатністю SRAM на чіпі 80 терабайт за секунду.⁵⁰

LPU першого покоління забезпечує понад 1 тераоп за секунду на квадратний міліметр на 14нм чіпі, що працює на 900 МГц.⁵¹ LPU другого покоління використовуватиме 4нм процес Samsung.⁵²

Швидкість виведення визначає ціннісну пропозицію Groq. LPU обслуговує Mixtral 8x7B зі швидкістю 480 токенів за секунду та Llama 2 70B зі швидкістю 300 токенів за секунду.⁵³ Менші моделі як Llama 2 7B досягають 750 токенів за секунду.⁵⁴ Groq був першим API провайдером, що перевершив 100 токенів за секунду на Llama2-70B.⁵⁵

LPU забезпечує до 18 разів швидше виведення ніж традиційні GPU для мовних моделей з детермінованою затримкою менше мілісекунди.⁵⁶ Енергоефективність досягає 1-3 джоуля на токен.⁵⁷

Карти LPU коштують приблизно $20,000 — порівняно з високопродуктивними GPU NVIDIA — але відзначаються специфічно в швидкості та ефективності виведення.⁵⁸ Компроміс зрозумілий: LPU обробляють лише виведення, не навчання.⁵⁹

Слід розгортання Groq значно розширився у 2025. Компанія працює дюжину дата-центрів у США, Канаді, на Близькому Сході та в Європі.⁶⁰ У вересні 2025 Groq залучив $750 мільйонів при оцінці $6,9 мільярдів.⁶¹

Партнерство з Саудівською Аравією, оголошене у лютому 2025, зобов'язується $1,5 мільярда для будівництва того, що Groq описує як найбільший у світі дата-центр AI виведення в Даммамі.⁶² Початкові розгортання включають 19,000 LPU з запланованими розширеннями потужності до понад 100,000 LPU до 2027.⁶³

Cerebras WSE-3: інтеграція масштабу пластини

Cerebras використовує найбільш радикальний архітектурний підхід, створюючи чіпи в масштабі пластини замість розрізання пластин на окремі процесори.⁶⁴ WSE-3 містить 4 трільйони транзисторів на всій пластині — 46,225 квадратних міліметрів кремнію.⁶⁵

WSE-3 упаковує 900,000 оптимізованих для AI обчислювальних ядер, забезпечуючи 125 петафлопс пікової AI продуктивності.⁶⁶ SRAM на чіпі досягає 44 гігабайтів з 21 петабайт за секунду пропускної здатності пам'яті.⁶⁷ Пропускна здатність fabric досягає 214 петабіт за секунду.⁶⁸ Чіп виготовляється на 5нм процесі TSMC.⁶⁹

Система CS-3 подвоює продуктивність CS-2 в тому ж 15-кіловатному енергетичному конверті.⁷⁰ Одна CS-3 поміщається в 15U стійкового простору.⁷¹ Варіанти зовнішньої пам'яті розширюють ємність до 1,5 терабайт, 12 терабайт або 1,2 петабайт залежно від конфігурації.⁷²

Ємність моделі масштабується драматично. CS-3 може навчати нейронні мережі до 24 трільйонів параметрів.⁷³ Кластери масштабуються до 2,048 систем CS-3, забезпечуючи до 256 ексафлопс обчислень FP16.⁷⁴

Cerebras заявляє значні переваги в простоті використання. Платформа потребує на 97% менше коду ніж GPU для LLM та навчає моделі від 1 мільярда до 24 трільйонів параметрів у чисто дата-паралельному режимі.⁷⁵ Компактні конфігурації з чотирьох систем можуть тонко налаштувати 70B моделі за день.⁷⁶ При повному масштабі 2,048 систем, Llama 70B навчається з нуля за один день.⁷⁷

Суперкомп'ютер Condor Galaxy 3 в Далласі розгорне 64 системи CS-3 для 8 ексафлопс обчислень FP16.⁷⁸ Журнал TIME визнав WSE-3 одним з найкращих винаходів 2024.⁷⁹

SambaNova SN40L: реконфігуровані потоки даних

Архітектура Reconfigurable Dataflow Unit (RDU) від SambaNova відрізняється як від GPU, так і від спеціалізованих ASIC.⁸⁰ SN40L поєднує гнучкість потоків даних на чіпі з трирівневою системою пам'яті: SRAM на чіпі, HBM на пакеті та DRAM поза пакетом.⁸¹

SN40L використовує 5нм процес TSMC у пакеті dual-die CoWoS.⁸² Кожен сокет містить 102 мільярди транзисторів, забезпечуючи 640 BF16 терафлопс та 520 мегабайт SRAM на чіпі.⁸³ DDR рівень підтримує до 1,5 терабайт ємності пам'яті з понад