InfiniBand для GPU‑кластеров: как добиться предсказуемой задержки и оправдать стоимость сети
При обучении больших языковых моделей задержки сети напрямую влияют на производительность GPU‑кластера. Под нагрузкой Ethernet может терять эффективность, тогда как InfiniBand обеспечивает более предсказуемую передачу данных. Разберём архитектуру IB, её преимущества и ограничения, а также когда высокая стоимость этой технологии действительно оправдана. Разобрать InfiniBand