Hạ tầng Mixture of Experts: Mở rộng quy mô mô hình thưa cho AI sản xuất
MoE hiện chiếm hơn 60% các mô hình AI mã nguồn mở phát hành năm 2025. Top 10 mô hình trên bảng xếp hạng Artificial Analysis (DeepSeek-R1, Kimi K2, Mistral Large 3) đều sử dụng MoE. NVIDIA GB200 NVL72 mang lại hiệu suất gấp 10 lần...
None