AI accelerators ที่ก้าวข้าม GPU: ภูมิทัศน์ของซิลิคอนทางเลือก

อัปเดตเมื่อ 11 ธันวาคม 2025

อัปเดตเดือนธันวาคม 2025: AWS Trainium3 เริ่มจัดส่งแล้วพร้อม 2.52 PFLOPS FP8 ต่อชิปและ 144GB HBM3e Google TPU v7 Ironwood ส่งมอบ 4,614 TFLOPS ต่อชิป—นักวิเคราะห์เรียกว่า "เทียบเท่ากับ Blackwell" Intel ยืนยันการยกเลิก Gaudi เมื่อ GPU รุ่นใหม่เปิดตัวในปี 2026-2027 Groq LPU ทำได้ 750 tokens/วินาทีบนโมเดลขนาดเล็ก ขณะที่ Cerebras WSE-3 ทำได้ 125 PFLOPS peak ซิลิคอนทางเลือกได้รับความนิยมมากขึ้นสำหรับ workloads เฉพาะทาง แม้ NVIDIA จะครองตลาด 80%

NVIDIA ครองส่วนแบ่งตลาด AI accelerator ประมาณ 80% แต่ความต้องการโครงสร้างพื้นฐานที่คุ้มค่าและบูรณาการในแนวดิ่งที่เพิ่มขึ้น กำลังค่อยๆ เพิ่มการยอมรับซิลิคอนทางเลือก¹ Google เปิดตัว TPU Ironwood รุ่นที่เจ็ดในเดือนพฤศจิกายน 2025 ซึ่งนักวิเคราะห์อธิบายว่า "เทียบเท่ากับ NVIDIA Blackwell ได้"² AWS ติดตั้งชิป Trainium2 มากกว่า 500,000 ตัวสำหรับการฝึกโมเดลของ Anthropic—คลัสเตอร์ AI ที่ใหญ่ที่สุดที่ไม่ใช่ NVIDIA ในการใช้งานจริง³ Cerebras เปิดตัว WSE-3 พร้อมทรานซิสเตอร์ 4 ล้านล้านตัวและประสิทธิภาพสูงสุด 125 petaflops⁴ ภูมิทัศน์ของ AI accelerator ขยายไปไกลกว่า GPU โดยมีสถาปัตยกรรมที่ปรับให้เหมาะสมสำหรับ workloads เฉพาะทางที่องค์กรต่างๆ กำลังประเมินมากขึ้น

GPU ยังคงเป็นตัวเลือกเริ่มต้นสำหรับความยืดหยุ่นและความสมบูรณ์ของระบบนิเวศ ความโดดเด่นของ CUDA และนวัตกรรมอย่างต่อเนื่องของ NVIDIA ทำให้ต้นทุนการเปลี่ยนแพลตฟอร์มสูงมาก อย่างไรก็ตาม hyperscalers ที่ออกแบบซิลิคอนของตัวเอง สตาร์ทอัพที่ท้าทายสมมติฐานเกี่ยวกับสถาปัตยกรรมชิป และการตั้งราคาอย่างจริงจังของ Intel ล้วนสร้างทางเลือกที่ไม่เคยมีมาก่อนห้าปีที่แล้ว องค์กรที่ใช้งาน AI ในระดับใหญ่ตอนนี้ประเมินทางเลือก accelerator เป็นการตัดสินใจเชิงกลยุทธ์ด้านโครงสร้างพื้นฐาน มากกว่าการจัดซื้อสินค้าโภคภัณฑ์

Google TPU: มาตรฐานของ hyperscaler

Google ประกาศ Trillium (TPU v6) ในเดือนพฤษภาคม 2024 และเปิดให้ใช้งานทั่วไปในปี 2025⁵ TPU รุ่นที่หกทำได้ 4.7 เท่าของประสิทธิภาพการประมวลผลสูงสุดต่อชิปเมื่อเทียบกับ TPU v5e⁶ Google ขยายขนาด matrix multiply unit และเพิ่มความเร็วสัญญาณนาฬิกาเพื่อให้ได้ประมาณ 926 teraflops ของประสิทธิภาพ BF16⁷

ความจุหน่วยความจำและ bandwidth เพิ่มขึ้นเป็นสองเท่าจากรุ่นก่อนหน้า⁸ Trillium ให้ความจุ HBM 32 gigabytes ต่อชิปพร้อม bandwidth ที่เพิ่มขึ้นตามสัดส่วน⁹ interchip interconnect bandwidth ก็เพิ่มขึ้นเป็นสองเท่าเช่นกัน ปรับปรุงประสิทธิภาพการ scaling แบบหลายชิป¹⁰

ประสิทธิภาพพลังงานดีขึ้นกว่า 67% เมื่อเทียบกับ TPU v5e¹¹ นักวิเคราะห์อุตสาหกรรมประเมินว่า TPU v6 ทำงานได้มีประสิทธิภาพมากกว่า GPU 60-65% เทียบกับข้อได้เปรียบด้านประสิทธิภาพ 40-45% ในรุ่นก่อนหน้า¹² การเพิ่มประสิทธิภาพสะสมในระดับ data center ที่ข้อจำกัดด้านพลังงานจำกัดความหนาแน่นของการติดตั้ง

Trillium สามารถ scale ได้ถึง 256 TPUs ใน pod เดียวที่มี bandwidth สูงและ latency ต่ำ¹³ นอกเหนือจากการ scale ระดับ pod แล้ว เทคโนโลยี multislice และ Titanium Intelligence Processing Units ยังช่วยให้ scale ได้ถึงหลายร้อย pods เชื่อมต่อชิปหลายหมื่นตัวในซูเปอร์คอมพิวเตอร์ระดับอาคาร¹⁴ คลัสเตอร์ Trillium ที่ใหญ่ที่สุดส่งมอบ 91 exaflops—มากกว่าคลัสเตอร์ TPU v5p ที่ใหญ่ที่สุดถึงสี่เท่า¹⁵

benchmark การฝึกแสดงให้เห็นการปรับปรุงประสิทธิภาพ Trillium ส่งมอบประสิทธิภาพการฝึกเพิ่มขึ้นมากกว่าสี่เท่าสำหรับ Gemma 2-27B, MaxText Default-32B และ Llama2-70B เมื่อเทียบกับ TPU v5e¹⁶ throughput การ inference ดีขึ้นสามเท่าสำหรับ Stable Diffusion XL¹⁷ Google ใช้ Trillium ในการฝึก Gemini 2.0¹⁸

Google เปิดตัว TPU v7 (Ironwood) ที่ Cloud Next ในเดือนเมษายน 2025¹⁹ Ironwood ส่งมอบ 4,614 teraflops ต่อชิปและจะจัดส่งในรูปแบบ 256 ชิปและ 9,216 ชิป²⁰ ทีม SemiAnalysis ยกย่องซิลิคอนนี้ โดยระบุว่าความเหนือกว่าของ Google ในหมู่ hyperscalers ไม่มีใครเทียบได้²¹

การเข้าถึง TPU ต้องใช้ Google Cloud องค์กรที่มุ่งมั่นกับ multi-cloud หรือการติดตั้ง on-premises ไม่สามารถใช้โครงสร้างพื้นฐาน TPU ได้โดยตรง โมเดล cloud-only จำกัดการยอมรับสำหรับองค์กรที่มีข้อกำหนดด้านถิ่นที่อยู่ของข้อมูลหรืออธิปไตยที่ภูมิภาคของ Google Cloud ไม่สามารถตอบสนองได้

AWS Trainium: ความร่วมมือกับ Anthropic

AWS เปิดตัว Trainium3 ในเดือนธันวาคม 2025—ชิป AI 3nm ตัวแรกของบริษัท²² ชิป Trainium3 แต่ละตัวให้การประมวลผล FP8 2.52 petaflops พร้อมหน่วยความจำ HBM3e 144 gigabytes และ memory bandwidth 4.9 terabytes ต่อวินาที²³ สเปคเหล่านี้แสดงถึงความจุหน่วยความจำมากกว่า 1.5 เท่าและ bandwidth มากกว่า 1.7 เท่าเมื่อเทียบกับ Trainium2²⁴

Trn3 UltraServers สามารถ scale ได้ถึงชิป Trainium3 144 ตัว ส่งมอบประสิทธิภาพ FP8 รวม 362 petaflops²⁵ UltraServer ที่กำหนดค่าเต็มที่ให้ HBM3e 20.7 terabytes และ aggregate memory bandwidth 706 terabytes ต่อวินาที²⁶ AWS อ้างว่ามีประสิทธิภาพการประมวลผลมากกว่า 4.4 เท่า ประสิทธิภาพพลังงานมากกว่า 4 เท่า และ memory bandwidth มากกว่าเกือบ 4 เท่าเมื่อเทียบกับระบบที่ใช้ Trainium2²⁷

NeuronSwitch-v1 fabric เพิ่ม interchip interconnect bandwidth เป็นสองเท่าเมื่อเทียบกับ Trn2 UltraServer²⁸ สถาปัตยกรรม all-to-all fabric ช่วยให้การฝึกแบบกระจายมีประสิทธิภาพทั่วทั้งชิปทั้งหมด

Project Rainier แสดงถึงการติดตั้งโครงสร้างพื้นฐาน AI ที่ใหญ่ที่สุดของ AWS AWS ร่วมมือกับ Anthropic เชื่อมต่อชิป Trainium2 มากกว่า 500,000 ตัวเข้าสู่คลัสเตอร์ AI compute ที่ใหญ่ที่สุดในโลก—ใหญ่กว่าโครงสร้างพื้นฐานที่ใช้ฝึกโมเดลรุ่นก่อนหน้าของ Anthropic ถึงห้าเท่า²⁹ ความร่วมมือนี้แสดงให้เห็นความเป็นไปได้ของ Trainium สำหรับการฝึก frontier model

EC2 Trn2 instances ที่ใช้ Trainium2 มี price performance ดีกว่า 30-40% เมื่อเทียบกับ EC2 P5e และ P5en instances ที่ใช้ GPU ตามที่ AWS กล่าว³⁰ ข้อได้เปรียบด้านต้นทุนมีความสำคัญสำหรับ workloads การฝึกอย่างต่อเนื่องที่ต้นทุนการประมวลผลครอบงำงบประมาณ

AWS ยกเลิก Inferentia line เพราะ workloads การ inference ต้องการการประมวลผลที่คล้ายคลึงกับการฝึกมากขึ้น³¹ สถาปัตยกรรม Trainium ตอนนี้รองรับทั้งการฝึกและการ inference ทำให้พอร์ตโฟลิโอชิปง่ายขึ้น

Trainium4 อยู่ระหว่างการพัฒนาโดยคาดว่าจะส่งมอบในปลายปี 2026 หรือต้นปี 2027³² AWS ประกาศ FP4 throughput อย่างน้อย 6 เท่า ประสิทธิภาพ FP8 3 เท่า และ memory bandwidth มากกว่า 4 เท่าเมื่อเทียบกับ Trainium3³³ Trainium4 จะรองรับเทคโนโลยี NVIDIA NVLink Fusion interconnect ทำให้สามารถรวมเข้ากับ NVIDIA GPUs ในการกำหนดค่า rack ทั่วไปได้³⁴

Intel Gaudi: คู่แข่งด้านราคา

Intel เปิดตัว Gaudi 3 ในปี 2024 โดยวางตำแหน่งเป็นทางเลือกที่คุ้มค่าแทน NVIDIA H100³⁵ Gaudi 3 ใช้ chiplets สองตัวพร้อม tensor processor cores 64 ตัว matrix multiplication engines แปดตัว และ on-die SRAM cache 96 megabytes พร้อม bandwidth 19.2 terabytes ต่อวินาที³⁶ ชิปรวมหน่วยความจำ HBM2e 128 gigabytes พร้อม bandwidth 3.67 terabytes ต่อวินาที³⁷

Gaudi 3 ส่งมอบ BF16/FP8 matrix teraflops 1,835 ที่ประมาณ 600 watts TDP³⁸ เมื่อเทียบกับ NVIDIA H100 Gaudi 3 มีประสิทธิภาพ BF16 matrix สูงกว่า (1,835 เทียบกับ 1,979 teraflops โดยไม่มี sparsity) และความจุ HBM มากกว่า (128 เทียบกับ 80 gigabytes)³⁹ Memory bandwidth ก็เกิน H100 เช่นกัน⁴⁰

Intel อ้างว่า Gaudi 3 เร็วกว่า NVIDIA H100 โดยทั่วไป 40% และอาจเหนือกว่า H100 ถึง 1.7 เท่าในการฝึก Llama2-13B ที่ความแม่นยำ FP8⁴¹ การอ้างประสิทธิภาพพลังงานน่าประทับใจกว่า—สูงถึง 220% ของค่า H100 บน benchmark Llama และ 230% บน Falcon⁴²

ข้อได้เปรียบด้านราคาสูงมาก ระบบ Gaudi 3 แปด accelerator ราคา $157,613 เทียบกับ $300,107 สำหรับระบบ H100 ที่เทียบเท่า⁴³ ราคาต่อชิปอยู่ที่ประมาณ $15,625 สำหรับ Gaudi 3 เทียบกับ $30,678 สำหรับ H100⁴⁴ ความแตกต่างของต้นทุนช่วยให้องค์กรสามารถติดตั้งความจุการประมวลผลได้ประมาณสองเท่าสำหรับงบประมาณเท่ากัน

Gaudi 3 ใช้ HBM2e แทน HBM3 หรือ HBM3e ซึ่งทำให้ต้นทุนต่ำลงแต่จำกัด memory bandwidth เมื่อเทียบกับทางเลือกรุ่นปัจจุบัน⁴⁵ องค์กรที่ใช้งาน workloads ที่จำกัดด้วย memory-bandwidth ควรประเมิน tradeoff นี้อย่างรอบคอบ

ความท้าทายด้านระบบนิเวศจำกัดการยอมรับ Gaudi CUDA ของ NVIDIA ครอบงำการพัฒนา AI และการเปลี่ยนไปใช้เครื่องมือของ Intel ต้องการการลงทุนด้านวิศวกรรม⁴⁶ ส่วนแบ่งตลาดของ Intel ใน AI accelerators ยังคงน้อยมากแม้จะมี hardware ที่แข่งขันได้⁴⁷

Intel ประกาศว่า Gaudi จะถูกยกเลิกเมื่อ AI GPUs รุ่นใหม่เปิดตัวในปี 2026-2027⁴⁸ การประกาศยกเลิกสร้างความเสี่ยงในการยอมรับสำหรับองค์กรที่พิจารณาการติดตั้ง Gaudi หลายปี พันธมิตรอาจลังเลที่จะลงทุนใน product line ที่ประกาศ end-of-life แล้ว

Groq LPU: ผู้นำด้านความเร็ว inference

Language Processing Unit (LPU) ของ Groq ใช้แนวทางสถาปัตยกรรมที่แตกต่างอย่างสิ้นเชิง โดยปรับให้เหมาะสมสำหรับ inference โดยเฉพาะมากกว่าการฝึก⁴⁹ สถาปัตยกรรม Tensor Streaming Processor ทำได้ 750 TOPS ที่ INT8 และ 188 teraflops ที่ FP16 พร้อม on-chip SRAM bandwidth มหาศาล 80 terabytes ต่อวินาที⁵⁰

LPU รุ่นแรกส่งมอบมากกว่า 1 teraop ต่อวินาทีต่อตารางมิลลิเมตรบนชิป 14nm ที่ทำงานที่ 900 MHz⁵¹ LPU รุ่นที่สองจะใช้กระบวนการ 4nm ของ Samsung⁵²

ความเร็ว inference กำหนด value proposition ของ Groq LPU ให้บริการ Mixtral 8x7B ที่ 480 tokens ต่อวินาทีและ Llama 2 70B ที่ 300 tokens ต่อวินาที⁵³ โมเดลขนาดเล็กกว่าอย่าง Llama 2 7B ทำได้ 750 tokens ต่อวินาที⁵⁴ Groq เป็น API provider รายแรกที่ทะลุ 100 tokens ต่อวินาทีบน Llama2-70B⁵⁵

LPU ส่งมอบ inference เร็วกว่า GPU แบบดั้งเดิมถึง 18 เท่าสำหรับ language models พร้อม deterministic latency ต่ำกว่ามิลลิวินาที⁵⁶ ประสิทธิภาพพลังงานถึง 1-3 joules ต่อ token⁵⁷

การ์ด LPU ราคาประมาณ $20,000—เทียบได้กับ NVIDIA GPUs ระดับสูง—แต่เด่นเฉพาะในความเร็วและประสิทธิภาพ inference⁵⁸ tradeoff ชัดเจน: LPUs รองรับเฉพาะ inference ไม่ใช่การฝึก⁵⁹

footprint การติดตั้งของ Groq ขยายตัวอย่างมากในปี 2025 บริษัทดำเนินการ data centers หลายสิบแห่งทั่วสหรัฐอเมริกา แคนาดา ตะวันออกกลาง และยุโรป⁶⁰ ในเดือนกันยายน 2025 Groq ระดมทุน $750 ล้านที่มูลค่า $6.9 พันล้าน⁶¹

ความร่วมมือกับซาอุดีอาระเบียที่ประกาศในเดือนกุมภาพันธ์ 2025 มุ่งมั่นลงทุน $1.5 พันล้านเพื่อสร้างสิ่งที่ Groq อธิบายว่าเป็น AI inferencing data center ที่ใหญ่ที่สุดในโลกใน Dammam⁶² การติดตั้งเริ่มต้นมี LPUs 19,000 ตัวพร้อมแผนขยายกำลังการผลิตเกิน 100,000 LPUs ภายในปี 2027⁶³

Cerebras WSE-3: wafer-scale integration

Cerebras ใช้แนวทางสถาปัตยกรรมที่ radical ที่สุด โดยสร้างชิปในระดับ wafer แทนที่จะตัด wafers เป็น processors แยกกัน⁶⁴ WSE-3 บรรจุทรานซิสเตอร์ 4 ล้านล้านตัวทั่วทั้ง wafer—ซิลิคอน 46,225 ตารางมิลลิเมตร⁶⁵

WSE-3 บรรจุ AI-optimized compute cores 900,000 ตัว ส่งมอบประสิทธิภาพ AI สูงสุด 125 petaflops⁶⁶ On-chip SRAM ถึง 44 gigabytes พร้อม memory bandwidth 21 petabytes ต่อวินาที⁶⁷ Fabric bandwidth ถึง 214 petabits ต่อวินาที⁶⁸ ชิปผลิตบนกระบวนการ 5nm ของ TSMC⁶⁹

ระบบ CS-3 เพิ่มประสิทธิภาพเป็นสองเท่าของ CS-2 ใน power envelope 15 กิโลวัตต์เท่าเดิม⁷⁰ CS-3 ตัวเดียวพอดีภายใน rack space 15U⁷¹ ตัวเลือกหน่วยความจำภายนอกขยายความจุเป็น 1.5 terabytes, 12 terabytes หรือ 1.2 petabytes ขึ้นอยู่กับการกำหนดค่า⁷²

ความจุโมเดลสามารถ scale ได้อย่างมาก CS-3 สามารถฝึกโมเดล neural network ได้ถึง 24 ล้านล้าน parameters⁷³ Clusters สามารถ scale ได้ถึงระบบ CS-3 2,048 ตัว ส่งมอบการประมวลผล FP16 สูงถึง 256 exaflops⁷⁴

Cerebras อ้างข้อได้เปรียบด้านความง่ายในการใช้งานอย่างมาก แพลตฟอร์มต้องการโค้ดน้อยกว่า GPU 97% สำหรับ LLMs และฝึกโมเดลตั้งแต่ 1 พันล้านถึง 24 ล้านล้าน parameters ในโหมด data parallel อย่างเดียว⁷⁵ การกำหนดค่าขนาดเล็กสี่ระบบสามารถ fine-tune โมเดล 70B ได้ภายในหนึ่งวัน⁷⁶ ที่ scale เต็ม 2,048 ระบบ Llama 70B ฝึกจากศูนย์ได้ภายในวันเดียว⁷⁷

ซูเปอร์คอมพิวเตอร์ Condor Galaxy 3 ใน Dallas จะติดตั้งระบบ CS-3 64 ตัวสำหรับการประมวลผล FP16 8 exaflops⁷⁸ นิตยสาร TIME ยกย่อง WSE-3 เป็น Best Invention of 2024⁷⁹

SambaNova SN40L: reconfigurable dataflow

สถาปัตยกรรม Reconfigurable Dataflow Unit (RDU) ของ SambaNova แตกต่างจากทั้ง GPUs และ custom ASICs⁸⁰ SN40L รวมความยืดหยุ่น on-chip dataflow กับระบบหน่วยความจำสามระดับ: on-chip SRAM, on-package HBM และ off-package DRAM⁸¹

SN40L ใช้กระบวนการ 5nm ของ TSMC ใน dual-die CoWoS package⁸² แต่ละ socket บรรจุทรานซิสเตอร์ 102 พันล้านตัว ส่งมอบ BF16 teraflops 640 และ on-chip SRAM 520 megabytes⁸³ DDR tier รองรับความจุหน่วยความจำสูงถึง 1.5 terabytes ที่มากกว่า

[เนื้อหาถูกตัดทอนสำหรับการแปล]