Lambda adota switches fotônicos da Nvidia em cluster com mais de 10 mil GPUs
Provedora de nuvem implementa tecnologia de óptica coempacotada para ligar racks GB300 NVL72, reduz latência de rede em até 10% e promete maior estabilidade em treinos longos de IA.
Por que importa. Falhas de rede e superaquecimento de transceptores paralisam milhares de GPUs em treinos e inferências agênticas. A troca de componentes ópticos tradicionais por CPO reduz paradas sem exigir troca do cluster inteiro.
A provedora de computação em nuvem Lambda começou a operar switches com tecnologia óptica coempacotada da linha Nvidia Photonics para interconectar racks Nvidia GB300 NVL72 em uma infraestrutura que soma mais de 10 mil GPUs. Segundo comunicado publicado pela Nvidia, a implementação reduziu a latência de tráfego de dados na rede em cerca de 4% no nível de rack e em até 10% na escala de pods inteiros. A mudança mantém a mesma taxa de transferência das conexões ópticas plugáveis convencionais, mas ataca gargalos térmicos e elétricos que costumam paralisar ambientes de treinamento de grande porte.
Na prática, a infraestrutura busca mitigar o impacto de interrupções de rede durante cargas de trabalho distribuídas, como o treinamento de modelos de base e a inferência com múltiplos agentes autônomos. Em clusters com milhares de aceleradores, a quebra de um único enlace pode travar a sincronização de parâmetros de todo o lote ou gerar atrasos em cascata na execução de agentes. De acordo com a Nvidia, a substituição de transceptores plugáveis por mecanismos ópticos montados diretamente no pacote do chip entrega até cinco vezes mais eficiência energética e confiabilidade até 15 vezes superior às arquiteturas ópticas tradicionais.
Menos calor e fontes de luz removíveis
Os switches utilizados pela Lambda contam com 144 portas operando a 800 Gb/s cada e dependem de refrigeração líquida para dissipar o calor do silício de comutação e dos motores ópticos integrados. Em medições divulgadas pela empresa, a temperatura mediana dos componentes ópticos caiu para 36 °C, frente aos 51 °C registrados com módulos plugáveis comuns sob carga de trabalho equivalente. A menor temperatura operacional ajuda a preservar a integridade do sinal em trajetos de fibra óptica dentro dos data centers.
Para contornar o risco de descarte do switch em caso de falha nos lasers, o design adotado inclui 18 fontes externas de luz removíveis por equipamento. Em sistemas convencionais, quando o laser de um transceptor queima, a equipe de infraestrutura precisa substituir o módulo inteiro. Com os módulos externos da Nvidia Photonics, técnicos podem trocar apenas a fonte luminosa danificada diretamente no rack, sem desligar ou desmontar a placa principal do switch de rede.
O coempacotamento também permitiu encurtar a distância elétrica percorrida pelos dados de polegadas para milímetros, ligando o chip do switch ao conversor óptico sem intermediários. Essa proximidade elimina a necessidade de chips retimers, componentes que habitualmente regeneram o sinal elétrico em placas convencionais. Ao retirar esses circuitos da placa, o equipamento consome menos eletricidade e diminui a quantidade total de peças suscetíveis a defeitos físicos ao longo da operação contínua.
Impacto na operação de modelos e lacunas da oferta
Para Dave Ward, presidente de serviços em nuvem da Lambda, a rede precisa acompanhar o crescimento acelerado dos clusters de inteligência artificial para que o hardware computacional não fique ocioso esperando dados. O aumento do tempo médio entre interrupções afeta diretamente os custos operacionais de quem aluga capacidade de supercomputação, já que checkpoints frequentes para contornar falhas de hardware consomem horas de computação faturada. A redução do calor acumulado também libera margem energética nos data centers para concentrar watts no processamento bruto das GPUs.
Apesar dos dados de laboratório compartilhados sobre latência e temperatura, a publicação não detalhou o custo adicional de contratação dessas instâncias na Lambda nem quando clientes externos poderão alocar fatias dedicadas dessa malha GB300 NVL72. Também não foi informado se o fornecimento dos switches Nvidia Photonics está garantido em escala industrial para outros parceiros de nuvem ou se o volume atual atende apenas a instalações piloto controladas.
Fontes
- NVIDIA: Lambda Boosts AI Factory Resiliency and Efficiency With NVIDIA Photonics
Reportagem produzida pela redação do Flipters com apoio de inteligência artificial, a partir das fontes acima. Como trabalhamos. Editor responsável: João Paulo Resende.
