La croissance rapide de l’IA générative, qui devrait attirer 1,4 billion de dollars d’investissements d’ici 2027 et qui est déjà adoptée par plus de 70 % des organisations, présente des défis d’intégration importants. Plus précisément, 82 % des personnes interrogées dans le cadre d’une enquête Flexential ont fait état de difficultés liées aux limitations de la bande passante, au manque de fiabilité de la connectivité et à l’augmentation de la capacité et de la puissance des centres de données. L’évolution rapide de l’IA et le paysage confus des recommandations contradictoires compliquent encore davantage les décisions en matière d’infrastructure.
En tant que gestionnaire de centre de données, vous avez besoin d’informations directes et impartiales pour vous aider à naviguer dans les options de topologie et de câblage et à intégrer efficacement l’IA en fonction de vos objectifs et environnements spécifiques.
Les deux visages de l’IA en réseau
Pour gérer les charges de travail HPC telles que la formation Gen AI, les centres de données en nuage et les grandes entreprises doivent mettre en œuvre des réseaux dorsaux qui permettent la transmission de données à très haut débit et à faible latence au sein des pods ou des clusters d’IA. Parallèlement, les réseaux frontaux traditionnels doivent maintenir une connectivité transparente pour les charges de travail générales et un transfert de données efficace vers et depuis les réseaux dorsaux. Cette double approche est essentielle pour accélérer les requêtes d’inférence de l’IA et améliorer l’expérience globale de l’utilisateur.
Dans les réseaux dorsaux, les architectures modernes « spine-leaf » facilitent le trafic est-ouest à faible latence entre les nœuds de GPU interconnectés. Les commutateurs spin et leaf se connectent à 800 Gigabit (G) Ethernet, avec des vitesses de 1,6 Terabit (T) Ethernet à l’horizon, et les commutateurs leaf se connectent aux nœuds en utilisant 400G Ethernet ou InfiniBand. Pendant ce temps, les réseaux frontaux passent rapidement à l’Ethernet 200G et 400G pour les liaisons entre commutateurs et à l’Ethernet 25G, 50G et 100G pour les connexions entre commutateurs et serveurs.
Par conséquent, les responsables des centres de données doivent sélectionner avec soin la topologie et le câblage appropriés pour quatre zones de connexion réseau distinctes par rapport aux types : commutateur dorsal à commutateur, commutateur dorsal à nœud, commutateur frontal à commutateur et commutateur frontal à serveur.
Choisir la bonne topologie et le bon câblage
Les topologies d’infrastructure réseau dorsale et frontale utilisent un câblage point à point ou structuré sur des distances variables. Les liaisons de commutateur à commutateur et de commutateur à serveur peuvent également s’appuyer sur des configurations d’éclatement afin d’optimiser la densité des ports et l’espace. Lors du choix de la topologie et du câblage appropriés, les responsables des centres de données doivent tenir compte de l’espace, de l’agencement, de la flexibilité, de l’évolutivité, de l’alimentation, du refroidissement, de la latence et de la performance en matière de perte.
Qu’il s’agisse de déploiements d’IA en périphérie ou de clusters de formation à grande échelle, les solutions de câblage prêtes pour l’IA de Siemongarantissent une connectivité transparente et performante sur les réseaux dorsaux et frontaux. Avec un portefeuille complet de solutions de câblage structuré, d’attachement direct et de fibre à haut débit, Siemon offre la fiabilité, l’évolutivité et la flexibilité nécessaires pour prendre en charge la prochaine génération de charges de travail d’IA.
Les centres de données pilotés par l’IA exigent une planification stratégique. SiemonLe nouveau guide Emerging AI Data Center Network Architectures and Applications d’EMC fournit des informations d’experts pour vous aider à relever les défis d’une infrastructure en constante évolution. Téléchargez-le dès maintenant pour découvrir des stratégies éprouvées pour un déploiement transparent de l’IA.
Auteur :
Gary Bernstein, RCDD, CDCD
Directeur principal, solutions globales pour les centres de données, Siemon
Gary Bernstein est directeur principal des ventes mondiales de centres de données à l’adresse Siemon. Il possède plus de 25 ans d’expérience dans l’industrie et une connaissance approfondie de l’infrastructure des centres de données, des télécommunications et des systèmes de câblage structuré en cuivre et en fibre. Tout au long de sa carrière, Gary a occupé des postes dans les domaines de l’ingénierie, des ventes, de la gestion des produits, du marketing et de la gestion d’entreprise. Gary a été membre des comités TIA TR42.7 et TR42.11 sur le cuivre et la fibre et de divers groupes de travail et groupes d’étude IEEE802.3, notamment 40/100G « ba », 200/400G « bs », 400/800G « df » et 800G/1,6T « dj ». Gary s’est exprimé sur le câblage des centres de données lors de plusieurs événements industriels en Amérique du Nord, en Europe, en Amérique latine et dans la région Asie-Pacifique, notamment 7×24, AFCOM, BICSI, Cisco Live, Datacenter Dynamics, et a rédigé plusieurs articles dans des publications professionnelles. Gary est titulaire d’une licence en ingénierie mécanique de l’Arizona State University, est un RCDD de BICSI et un Certified Data Center Designer (CDCD) de Datacenter Dynamics.
Co-auteur :
Ryan Harris
Directeur de l’ingénierie des ventes – Assemblages de câbles à grande vitesse, Siemon
Ryan Harris est directeur de l’ingénierie des ventes chez Siemon, dont le siège se trouve à Watertown, CT. Ryan a plus de 12 ans d’expérience en tant qu’ingénieur commercial en contact avec la clientèle, soutenant les OEM d’équipement de réseau, les utilisateurs finaux à grande échelle, les ODM et les intégrateurs de systèmes avec des solutions de câblage point à point. Il s’est spécialisé dans le déploiement de connexions de systèmes de serveurs dans les centres de données et les environnements de télécommunications. Fort d’une solide compréhension des applications Top-of-Rack et d’une capacité à se tenir au courant des technologies émergentes, Ryan communique les avantages techniques afin de fournir les meilleures solutions de centre de données et de périphérie. Son objectif est d’aider les ingénieurs réseau à comprendre les options qui s’offrent à eux pour déployer des systèmes dans le respect des délais et du budget, en accordant une attention particulière aux détails et en faisant preuve d’une solide éthique du service à la clientèle.
Gary Bernstein
Global Data Center Cabling Solutions Specialist, Siemon
Gary Bernstein is Sr. Director of Global Data Center Sales at Siemon with more than 25 years of industry experience and extensive knowledge in data center infrastructure, telecommunications, and copper and fiber structured cabling systems. Gary has held positions in engineering, sales, product management, marketing and corporate management throughout his career. Gary has been a member of TIA TR42.7 and TR42.11 Copper and Fiber Committees and various IEEE802.3 task forces and study groups including 40/100G “ba”, 200/400G “bs” and 400/800G “df” and 800G/1.6T “dj”. Gary has spoken on Data Center Cabling at several industry events in North America, Europe, LATAM and APAC including 7x24, AFCOM, BICSI, Cisco Live, Datacenter Dynamics and has authored several articles in industry trade publications. Gary received a Bachelor of Sciences in Mechanical Engineering from Arizona State University, is an RCDD with BICSI and a Certified Data Center Designer (CDCD) with Datacenter Dynamics.
