Desafios do treinamento distribuído de IA mudam as redes entre data centers

Treinar modelos de IA em vários datacenters exige que milhares de GPUs troquem resultados e sincronizem etapas do trabalho. Como elas precisam concluir essas comunicações antes de avançar, atrasos e perdas de pacotes podem prolongar operações e deixar aceleradores esperando. A rede entre instalações passa, assim, a integrar a computação distribuída, em vez de apenas conectar ambientes independentes, como ocorre no DCI tradicional. A Cisco estima que grandes implantações distribuídas podem exigir largura de banda agregada cerca de 14 vezes maior que a de uma conexão DCI convencional.

Para esses enlaces de maior distância, a Cisco aponta a necessidade de óptica coerente, capacidade de absorver picos de tráfego com buffers mais profundos e gestão proativa de congestionamento. A empresa afirma que buffers compartilhados podem acomodar rajadas em enlaces específicos enquanto os controles de tráfego atuam; eles não substituem capacidade adicional quando o congestionamento é contínuo. A arquitetura apresentada pela Cisco combina esses recursos com seus equipamentos de roteamento e óptica coerente de 400G e 800G.