O rápido crescimento da IA generativa, projetada para atrair US$ 1,4 trilhão em investimentos até 2027 e já adotada por mais de 70% das organizações, apresenta desafios significativos de integração. Especificamente, 82% dos entrevistados em uma pesquisa da Flexential relataram dificuldades com limitações de largura de banda, conectividade não confiável e dificuldades para dimensionar a capacidade e a energia do data center. A evolução acelerada da IA e o cenário confuso de recomendações conflitantes complicam ainda mais as decisões de infraestrutura.
Como gerente de data center, você precisa de informações diretas e imparciais para ajudá-lo a navegar pelas opções de topologia e cabeamento e integrar efetivamente a IA com base em seus objetivos e ambientes específicos.
As duas faces da rede de IA
Para lidar com cargas de trabalho de HPC, como o treinamento de IA de geração, os data centers de nuvem e de grandes empresas devem implementar redes de back-end que permitam a transmissão de dados de altíssima velocidade e baixa latência em pods ou clusters de IA. Simultaneamente, as redes front-end tradicionais devem manter a conectividade contínua para cargas de trabalho de uso geral e transferência eficiente de dados de e para redes back-end. Essa abordagem dupla é essencial para acelerar as solicitações de inferência de IA e melhorar a experiência geral do usuário.
Nas redes de back-end, as modernas arquiteturas spine-leaf facilitam o tráfego leste-oeste de baixa latência entre os nós de GPU interconectados. Os switches spine e leaf se conectam a 800 Gigabit (G) Ethernet, com velocidades de 1,6 Terabit (T) Ethernet no horizonte, e os switches leaf se conectam a nós usando 400G Ethernet ou InfiniBand. Enquanto isso, as redes front-end estão passando rapidamente para a Ethernet de 200G e 400G para links de switch para switch e Ethernet de 25G, 50G e 100G para conexões de switch para servidor.
Consequentemente, os gerentes de data center devem selecionar cuidadosamente a topologia e o cabeamento adequados para quatro áreas distintas de conexão de rede versus tipos: back-end switch-to-switch, back-end switch-to-node, front-end switch-to-switch e front-end switch-to-server.
Seleção da topologia e do cabeamento corretos
As topologias de infraestrutura de rede back-end e front-end utilizam cabeamento ponto a ponto ou estruturado em distâncias variadas. Os links de switch para switch e de switch para servidor também podem aproveitar as configurações de breakout para otimizar a densidade e o espaço das portas. Ao selecionar a topologia e o cabeamento adequados, os gerentes de data center devem considerar o espaço, o layout, a flexibilidade, a escalabilidade, a energia, o resfriamento, a latência e o desempenho de perda.
De implementações de IA de borda a clusters de treinamento em grande escala, as soluções de cabeamento prontas para IA da Siemongarantem conectividade perfeita e de alto desempenho em redes back-end e front-end. Com um portfólio completo de soluções de cabeamento estruturado, conexão direta e fibra de alta velocidade, a Siemon oferece a confiabilidade, a escalabilidade e a flexibilidade necessárias para dar suporte à próxima geração de cargas de trabalho de IA.
Os data centers orientados por IA exigem planejamento estratégico. SiemonO novo Guia de Arquiteturas e Aplicativos de Rede de Data Center com IA Emergente da OMS oferece insights especializados para ajudá-lo a enfrentar os desafios da infraestrutura em evolução. Faça o download agora para explorar estratégias comprovadas para uma implementação perfeita de IA.
Autor:
Gary Bernstein, RCDD, CDCD
Diretor sênior de soluções globais de data center, Siemon
Gary Bernstein é Diretor Sênior de Vendas Globais de Data Center da Siemon, com mais de 25 anos de experiência no setor e amplo conhecimento em infraestrutura de data center, telecomunicações e sistemas de cabeamento estruturado de cobre e fibra. Gary ocupou cargos em engenharia, vendas, gerenciamento de produtos, marketing e gerenciamento corporativo ao longo de sua carreira. Gary foi membro dos comitês de cobre e fibra TIA TR42.7 e TR42.11 e de várias forças-tarefa e grupos de estudo IEEE802.3, incluindo 40/100G “ba”, 200/400G “bs” e 400/800G “df” e 800G/1.6T “dj”. Gary falou sobre cabeamento de data center em vários eventos do setor na América do Norte, Europa, América Latina e Ásia-Pacífico, incluindo 7×24, AFCOM, BICSI, Cisco Live, Datacenter Dynamics e escreveu vários artigos em publicações comerciais do setor. Gary é bacharel em Engenharia Mecânica pela Arizona State University, é RCDD pela BICSI e Certified Data Center Designer (CDCD) pela Datacenter Dynamics.
Coautor:
Ryan Harris
Diretor de engenharia de vendas – montagens de cabos de alta velocidade, Siemon
Ryan Harris é diretor de engenharia de vendas da Siemon, com sede em Watertown, CT. Ryan tem mais de 12 anos de experiência como engenheiro de vendas voltado para o cliente, oferecendo suporte a OEMs de equipamentos de rede, usuários finais de hiperescala, ODMs e integradores de sistemas com soluções de cabeamento ponto a ponto. Especializou-se na implementação de conexões de sistemas de servidores em ambientes de data center e de telecomunicações. Com um sólido conhecimento dos aplicativos Top-of-Rack e um histórico de atualização em relação às tecnologias emergentes, Ryan comunica os benefícios técnicos para oferecer as melhores soluções de núcleo de DC e de borda da categoria. Com o objetivo de ajudar os engenheiros de rede a entender suas opções para implementar sistemas dentro do prazo e do orçamento, com atenção aos detalhes e uma forte ética de atendimento ao cliente.
Gary Bernstein
Global Data Center Cabling Solutions Specialist, Siemon
Gary Bernstein is Sr. Director of Global Data Center Sales at Siemon with more than 25 years of industry experience and extensive knowledge in data center infrastructure, telecommunications, and copper and fiber structured cabling systems. Gary has held positions in engineering, sales, product management, marketing and corporate management throughout his career. Gary has been a member of TIA TR42.7 and TR42.11 Copper and Fiber Committees and various IEEE802.3 task forces and study groups including 40/100G “ba”, 200/400G “bs” and 400/800G “df” and 800G/1.6T “dj”. Gary has spoken on Data Center Cabling at several industry events in North America, Europe, LATAM and APAC including 7x24, AFCOM, BICSI, Cisco Live, Datacenter Dynamics and has authored several articles in industry trade publications. Gary received a Bachelor of Sciences in Mechanical Engineering from Arizona State University, is an RCDD with BICSI and a Certified Data Center Designer (CDCD) with Datacenter Dynamics.
