Мережі та міжз'єднання
Високошвидкісні фабрики, що з'єднують GPU-кластери—InfiniBand, 800G Ethernet, NVLink та архітектури, що усувають вузькі місця навчання.
У розподіленому навчанні ШІ ваша мережа часто є вузьким місцем, а не ваші GPU. Коли тисячі прискорювачів потребують синхронізації градієнтів, різниця між добре спроектованою архітектурою та недопрацьованим рішенням може означати тижні часу навчання — або моделі, які просто не можуть збігтися.
Цей хаб охоплює мережеві технології, які роблять можливим великомасштабний ШІ: від домінування InfiniBand у HPC до просування Ethernet на територію, оптимізовану для ШІ.
Що ми охоплюємо
- InfiniBand проти Ethernet — коли використовувати кожну технологію та як можливості RDMA зближуються в обох
- Мережеві топології — Fat-tree, dragonfly та rail-оптимізовані дизайни: підбір топології під характеристики робочих навантажень
- Міжз'єднання GPU — NVLink, NVSwitch та еволюція до когерентних багато-GPU систем
- 800G і далі — швидкості Ethernet нового покоління та оптичні технології, що їх забезпечують
- Перевантаження та контроль потоків — DCQCN, ECN та інженерія трафіку, що забезпечує продуктивність великих кластерів
Мережа, що з'єднує ваші GPU, заслуговує такої ж уваги, як і самі GPU. Наше покриття мережевих технологій допомагає вам проектувати архітектури, які дозволяють вашим прискорювачам справді прискорювати.
Essential Reading
All Мережі та міжз'єднання Articles (0)
No articles in this topic yet. Check back soon!