NVIDIA et Intel suralimentent le calcul de l’IA avec les GPU Hopper H100 et les processeurs Xeon de 4e génération : 25 fois plus d’efficacité

NVIDIA a annoncé ses tout nouveaux systèmes GPU Hopper H100 AI qui sont suralimentés par les processeurs Intel Xeon « Sapphire Rapids » de 4e génération.

NVIDIA offre une efficacité 25 fois supérieure avec les systèmes d’IA Hopper H100 alimentés par les processeurs Intel Xeon « Sapphire Rapids » de 4e génération

Communiqué de presse: L’IA est au cœur des innovations les plus transformatrices de l’humanité, du développement de vaccins COVID à des vitesses sans précédent et du diagnostic du cancer à l’alimentation de véhicules autonomes et à la compréhension du changement climatique.

Pratiquement toutes les industries bénéficieront de l’adoption de l’IA, mais la technologie est devenue plus gourmande en ressources à mesure que les réseaux de neurones sont devenus plus complexes. Pour éviter d’imposer des demandes insoutenables à la production d’électricité pour faire fonctionner cette infrastructure informatique, la technologie sous-jacente doit être aussi efficace que possible.

Le calcul accéléré alimenté par les GPU NVIDIA et la plate-forme d’intelligence artificielle offre l’efficacité qui permet aux centres de données de piloter durablement la prochaine génération de percées.

Et maintenant, au moment du lancement des processeurs Intel Xeon Scalable de 4e génération, NVIDIA et ses partenaires ont lancé une nouvelle génération de systèmes informatiques accélérés conçus pour une IA économe en énergie. Lorsqu’ils sont combinés avec les GPU H100 Tensor Core, ces systèmes peuvent offrir des performances considérablement supérieures, une plus grande évolutivité et une plus grande efficacité que la génération précédente, offrant plus de calcul et de résolution de problèmes par watt.

Les nouveaux processeurs Intel seront utilisés dans les systèmes DGX H100, ainsi que dans plus de 60 serveurs équipés de GPU H100 de partenaires NVIDIA du monde entier.

Accélération de la vitesse, de l’efficacité et des économies pour l’IA d’entreprise

Les prochains systèmes équipés de NVIDIA et d’Intel aideront les entreprises à exécuter les charges de travail en moyenne 25 fois plus efficacement que les serveurs de centre de données traditionnels à CPU uniquement. Cette incroyable performance par watt signifie que moins d’énergie est nécessaire pour accomplir les tâches, ce qui permet de s’assurer que l’énergie disponible pour les centres de données est utilisée aussi efficacement que possible pour surcharger le travail le plus important.

Par rapport aux systèmes accélérés de la génération précédente, cette nouvelle génération de serveurs accélérés par NVIDIA accélère la formation et l’inférence pour multiplier par 3,5 l’efficacité énergétique, ce qui se traduit par de réelles économies de coûts, les centres de données IA offrant un coût total de possession plus de 3 fois inférieur.

Les nouveaux processeurs Intel Xeon de 4e génération déplacent plus de données pour accélérer NVIDIA AI

Parmi les fonctionnalités du nouveau processeur Intel Xeon de 4e génération, il y a la prise en charge de PCIe Gen 5, qui peut doubler les taux de transfert de données du processeur vers les GPU NVIDIA et la mise en réseau. L’augmentation des voies PCIe permet une plus grande densité de GPU et une mise en réseau à haut débit au sein de chaque serveur.

Une bande passante mémoire plus rapide améliore également les performances des charges de travail gourmandes en données telles que l’IA, tandis que les vitesses de mise en réseau jusqu’à 400 gigabits par seconde (Gbps) par connexion prennent en charge des transferts de données plus rapides entre les serveurs et le stockage.

Les systèmes et serveurs DGX H100 des partenaires NVIDIA avec les GPU H100 PCIe sont livrés avec une licence pour NVIDIA AI Enterprise, une suite cloud native de bout en bout de logiciels de développement et de déploiement d’IA, offrant une plate-forme complète pour l’excellence dans une entreprise efficace. IA.

Les systèmes NVIDIA DGX H100 suralimentent l’efficacité pour l’IA surdimensionnée

En tant que quatrième génération de la première infrastructure d’IA spécialement conçue au monde, les systèmes DGX H100 fournissent une plate-forme entièrement optimisée alimentée par le système d’exploitation du centre de données accéléré, le logiciel NVIDIA Base Command.

Chaque système DGX H100 comprend huit GPU NVIDIA H100, 10 adaptateurs réseau NVIDIA ConnectX-7 et deux processeurs Intel Xeon Scalable de 4e génération pour offrir les performances requises pour créer de grands modèles d’IA générative, des modèles de langage étendus, des systèmes de recommandation, etc.

Combinée à la mise en réseau NVIDIA, cette architecture optimise le calcul efficace à grande échelle en offrant jusqu’à 9 fois plus de performances que la génération précédente et 20 à 40 fois plus de performances que les serveurs à double socket X86 non accélérés pour la formation à l’IA et les charges de travail HPC. Si un modèle de langage nécessitait auparavant 40 jours pour s’entraîner sur un cluster de serveurs X86 uniquement, le NVIDIA DGX H100 utilisant des processeurs Intel Xeon et un réseau alimenté par ConnectX-7 pourrait effectuer le même travail en aussi peu que 1 à 2 jours.

Les systèmes NVIDIA DGX H100 sont les éléments constitutifs d’un SuperPOD NVIDIA DGX clé en main, prêt pour l’entreprise, qui offre jusqu’à un exaflop de performances d’IA, offrant un saut d’efficacité pour le déploiement d’IA à grande échelle en entreprise.

Les partenaires NVIDIA renforcent l’efficacité du centre de données

Pour les charges de travail des centres de données IA, les GPU NVIDIA H100 permettent aux entreprises de créer et de déployer des applications plus efficacement.

Apportant une nouvelle génération de performances et d’efficacité énergétique aux entreprises du monde entier, un large portefeuille de systèmes avec des GPU H100 et des processeurs évolutifs Intel Xeon de 4e génération sera bientôt disponible auprès des partenaires NVIDIA, notamment ASUS, Atos, Cisco, Dell Technologies, Fujitsu, GIGABYTE, Hewlett Packard Enterprise, Lenovo, QCT et Supermicro.

En tant que précurseur des gains d’efficacité à venir, le Lenovo ThinkSystem de Flatiron Institute avec GPU NVIDIA H100 arrête la dernière liste Green500 et les technologies NVIDIA alimentent 23 des 30 meilleurs systèmes de la liste. Le système Flatiron utilise des processeurs Intel de génération précédente, donc on attend encore plus d’efficacité des systèmes qui arrivent maintenant sur le marché.

De plus, la connexion de serveurs avec le réseau NVIDIA ConnectX-7 et les processeurs évolutifs Intel Xeon de 4e génération augmentera l’efficacité et réduira l’infrastructure et la consommation d’énergie.

Les adaptateurs NVIDIA ConnectX-7 prennent en charge PCIe Gen 5 et 400 Gbit/s par connexion via Ethernet ou InfiniBand, doublant le débit réseau entre les serveurs et le stockage. Les adaptateurs prennent en charge les déchargements avancés de mise en réseau, de stockage et de sécurité. ConnectX-7 réduit le nombre de câbles et de ports de commutation nécessaires, économisant 17 % ou plus sur l’électricité nécessaire à la mise en réseau de grands clusters HPC et AI accélérés par GPU et contribuant à une meilleure efficacité énergétique de ces nouveaux serveurs.

Le logiciel NVIDIA AI Enterprise offre une solution d’IA complète

Ces systèmes de nouvelle génération offrent également un bond en avant en termes d’efficacité opérationnelle car ils sont optimisés pour la suite logicielle NVIDIA AI Enterprise.

Fonctionnant sur NVIDIA H100, NVIDIA AI Enterprise accélère le pipeline de la science des données et rationalise le développement et le déploiement de modèles d’IA prédictifs pour automatiser les processus essentiels et obtenir rapidement des informations à partir des données.

Avec une vaste bibliothèque de logiciels complets, y compris des flux de travail d’IA d’applications de référence, des cadres, des modèles pré-formés et l’optimisation de l’infrastructure, le logiciel fournit une base idéale pour faire évoluer le succès de l’IA d’entreprise.

Pour essayer NVIDIA H100 exécutant les workflows et les cadres d’IA pris en charge dans NVIDIA AI Enterprise, inscrivez-vous gratuitement à NVIDIA LaunchPad. Regardez le fondateur et PDG de NVIDIA, Jensen Huangspeak, lors de l’événement de lancement du processeur Intel Xeon Scalable de 4e génération.