Réseau haut débit pour l'IA (RDMA, SR-IOV)
L'inférence répartie sur plusieurs nœuds est limitée par le réseau. On retrouve ici les techniques de la plateforme télécom : SR-IOV, interfaces secondaires, RDMA.
Dans la roadmap
Ressources
- NVIDIA Network Operator (code et documentation)
Référence open source
- NVIDIA Network Operator (documentation)
Documentation · gratuit · EN · NVIDIA