Thiết Kế Topology Mạng Cụm GPU: Kiến Trúc Fat-Tree, Dragonfly và Tối Ưu Hóa Rail
DGX SuperPOD chỉ định fat-tree ba tầng với Quantum-2 InfiniBand (400Gb/s). Nghiên cứu của Meta phát hiện lỗi cấu hình mạng gây ra 10,7% các sự cố nghiêm trọng trong công việc GPU. Băng thông bisection đầy đủ...
None