English 
简体中文 
繁體中文 
Русский 
Español 
Deutsch 
Français 
Português 
Italiano 
Türkçe 
Polski 
Nederlands 
日本語 
한국어 
Bahasa Indonesia 
Bahasa Melayu 
العربية 
हिन्दी 
Tiếng Việt 
ภาษาไทย 
বাংলা 
اردو 
Kiswahili 
Oʻzbekcha 
አማርኛ 
فارسی Topologías de fábricas de GPU
La red de un clúster de IA se construye en capas, y cada capa usa interconexiones —y óptica— distintas. Entender las capas explica por qué un clúster tiene tantos transceptores y dónde duele más uno defectuoso.
Scale-up frente a scale-out
| Scale-up | Scale-out | |
|---|---|---|
| Conecta | GPU dentro de un servidor o un rack | servidores entre sí |
| Tecnología | enlaces GPU-a-GPU propietarios (p. ej. NVLink/NVSwitch) | InfiniBand o Ethernet/RoCE |
| Medio | backplanes y cables de cobre, cada vez más óptica entre racks | óptica pluggable: OSFP de 400G/800G, QSFP-DD |
| Ancho de banda por GPU | el más alto | alto, compartido con el fabric |
Los transceptores pluggable viven sobre todo en la capa de scale-out — cada servidor de GPU tiene varios puertos de 400G/800G hacia el fabric, además de una red de front-end/almacenamiento separada.
Fat-tree y sin bloqueo
El fabric de scale-out suele ser un fat-tree (Clos): los switches leaf conectan servidores, los switches spine conectan leaves, con suficientes enlaces leaf-spine para que cualquier servidor pueda hablar con cualquier otro a velocidad completa (sin bloqueo). La mayor parte de la óptica de un clúster son estos enlaces leaf-spine y servidor-leaf — miles de módulos DR4/DR8 idénticos.
Diseño optimizado por rail
El tráfico de entrenamiento está dominado por operaciones colectivas entre GPU del mismo rango a través de los servidores. Una topología optimizada por rail aprovecha esto: la GPU 0 de cada servidor se conecta al switch leaf 0, la GPU 1 al leaf 1 y así sucesivamente, de modo que las GPU del mismo rango quedan a un salto de distancia y los colectivos nunca cruzan el spine. La consecuencia para la óptica: una avería en un solo rail afecta a una posición de GPU en cada servidor — un patrón que conviene reconocer.
Redes separadas
Un clúster suele ejecutar varios fabrics físicamente separados:
- Fabric de cómputo — GPU-a-GPU (IB o RoCE), el más grande y el que más consume óptica.
- Fabric de almacenamiento — hacia sistemas de archivos paralelos y almacenamiento de objetos, a menudo Ethernet (redes de almacenamiento).
- Front-end / gestión — acceso de usuario, orquestación, telemetría.
Cada uno tiene su propio inventario de óptica y sus propias reglas de validación de fabricante.
Por qué un enlace defectuoso importa tanto
Una operación colectiva se completa a la velocidad de su participante más lento. Un transceptor con un carril en degradación — más correcciones de FEC, retransmisiones ocasionales — alarga la latencia de cola de cada paso y puede costar una fracción medible del rendimiento de todo el clúster. Por eso los operadores de IA siguen la tendencia del DDM por carril en toda la flota y sustituyen la óptica de forma proactiva (Transceptores en clústeres de IA).
En CodingBox
Califique la óptica en el banco antes de instalarla en un rail: identidad por CMIS, línea base de DDM por carril en la pantalla DDM, y un registro en la base de datos de códigos para que el historial de un módulo esté disponible cuando un rail empiece a mostrar errores.
Los adaptadores en el extremo de GPU de estos fabrics — BlueField, ConnectX-8 SuperNIC, Pensando — y su óptica OSFP de doble puerto: SmartNIC y DPU.