Mixture of Experts 인프라: 프로덕션 AI를 위한 희소 모델 확장
MoE는 현재 2025년 오픈소스 AI 모델 출시의 60% 이상을 차지합니다. Artificial Analysis 리더보드 상위 10개 모델(DeepSeek-R1, Kimi K2, Mistral Large 3)이 모두 MoE를 사용합니다. NVIDIA GB200 NVL72는 H200 대비 MoE에서 10배의 성능 향상을 제공합니다...
None