[Video] Voici pourquoi CXL est la solution de mémoire pour l’ère de l’IA
Un monde propulsé par l’intelligence artificielle (IA) n’est plus considéré comme faisant partie d’un avenir lointain ; ça devient une réalité.
Le COVID-19 a accéléré la transformation numérique de plusieurs années, et les progrès de la technologie de l’IA se sont accélérés avec lui, entraînant une augmentation significative de la demande d’IA. L’adoption à grande échelle de l’IA est déjà en cours dans des industries clés, du secteur automobile et de la finance aux soins de santé et à l’éducation, comme en témoignent des innovations telles que les voitures autonomes et les chatbots. Dans le même temps, la gamme d’applications de l’IA se développe rapidement, entraînant des avancées impressionnantes dans des domaines tels que le traitement d’images, la reconnaissance vocale et le traitement du langage naturel.
Une nouvelle solution de mémoire pour l’IA Ère
Ces dernières années, alors que le débit de données augmentait rapidement, cela soulignait les limites des systèmes informatiques existants. Le débit de données de l’IA a décuplé chaque année,1 et les systèmes informatiques actuels n’offrent pas des capacités de mémoire suffisantes pour gérer la forte augmentation des volumes de données.
Actuellement, une unité centrale de traitement (CPU) peut contenir jusqu’à 16 DRAM (un maximum de 8 téraoctets (To)) un nombre bien inférieur à ce qui est nécessaire pour gérer les énormes réserves de données utilisées dans l’IA et l’apprentissage automatique. Le besoin d’une plate-forme de mémoire prenant en charge des interfaces rapides et une évolutivité facile devient d’autant plus évident que l’ère de l’IA se rapproche de plus en plus. Récemment, un nouveau module DRAM basé sur Compute Express Link (CXL) est apparu comme une solution de mémoire prometteuse pour l’ère de l’IA. Il en va de même pour le traitement en mémoire (PIM) et le stockage informatique équipés d’un processeur d’intelligence artificielle basé sur la mémoire.
CXL : une interface repoussant les limites de la capacité de mémoire et de la flexibilité du serveur
Qu’est-ce qui fait de CXL une plate-forme de mémoire de nouvelle génération et une solution aussi prometteuse aux limitations informatiques actuelles ? En bref : évolutivité.
CXL est une nouvelle interface conçue pour améliorer l’efficacité de la mémoire, du processeur et de l’unité de traitement graphique (GPU) des systèmes informatiques. Dans les plates-formes conventionnelles, les périphériques tels que la mémoire et le stockage ont leurs propres interfaces qui les relient au CPU. Mais passer par toutes ces différentes interfaces pour communiquer entre elles crée de la latence, ralentissant les opérations. Et avec la croissance massive des données utilisées pour l’IA et l’apprentissage automatique, les problèmes de latence n’ont fait qu’empirer.
CXL fait partie d’une interface de nouvelle génération qui sera appliquée à PCIe 5.0. En intégrant plusieurs interfaces existantes en une seule, en connectant directement les appareils et en leur permettant de partager la mémoire, CXL répond à ces limitations et crée de nouvelles voies de données plus rapides et plus efficaces. Cette solution de mémoire de nouvelle génération est la raison pour laquelle CXL a reçu tant d’attention.
Conformément à cette tendance, en mai 2021, Samsung Electronics a présenté le CXL Memory Expander, une solution de développement logiciel unique basée sur CXL, et a commencé à promouvoir les solutions de mémoire CXL. Les principaux avantages de CXL sont les suivants :
- Extension de mémoire inégalée
Semblable à un lecteur à état solide (SSD), qui est un périphérique de stockage externe, l’extenseur de mémoire CXL permet d’étendre la capacité DRAM lorsqu’il est installé à l’emplacement où le SSD est inséré. En d’autres termes, il permet d’étendre la capacité DRAM d’un système informatique simplement en améliorant l’interface et sans avoir à modifier la structure existante du serveur ou à la changer complètement.
- Traitement rationalisé des données
L’un des principaux avantages de l’extenseur de mémoire est son traitement efficace des données. En élargissant la bande passante, il permet à différents appareils de partager la mémoire et d’exploiter leurs ressources plus efficacement. Ils peuvent alors utiliser la mémoire des accélérateurs comme s’il s’agissait de la mémoire principale en partageant des zones mémoire communes. Les appareils sans leur propre mémoire interne peuvent également profiter de cette mémoire principale et l’utiliser comme la leur.
- Vitesse de calcul accélérée
Minimiser les problèmes de latence (ou retards) causés par l’augmentation du débit de données est une fonction clé de l’extenseur de mémoire CXL. L’extenseur de mémoire exploite à la fois l’accélérateur et le processeur pour améliorer les vitesses de calcul du système, prenant en charge un traitement des données beaucoup plus fluide et plus rapide.
Dans l’état actuel des choses, de nombreux acteurs de l’industrie ne connaissent toujours pas le concept de l’interface CXL. Bien que la technologie en soit encore à ses débuts, son potentiel à conduire un traitement de données plus efficace la pousse à être considérée comme un moteur de la quatrième révolution industrielle.
En préparation de l’ère de l’IA qui approche rapidement, Samsung Electronics contribuera à étendre l’écosystème CXL en introduisant tout, du matériel de mémoire CXL à une solution logicielle appelée Scalable Memory Development Kit (SMDK), et dirigera le marché avec des solutions de mémoire de nouvelle génération qui sont capables de s’adapter à l’évolution rapide du paysage du traitement des données.
1 Source : OpenAI (2019)