IBM annonce du matériel d’intelligence artificielle sur puce

Ces dernières années ont vu une demande croissante de matériel d’accélération d’intelligence artificielle (IA). IBM a pris note.

Aux premiers jours de l’IA, les technologies CPU et GPU commerciales étaient suffisantes pour gérer les tailles de données et les paramètres de calcul des technologies. Mais avec l’émergence d’ensembles de données plus volumineux et de modèles d’apprentissage en profondeur, il existe désormais un besoin évident d’accélération matérielle de l’IA spécialement conçue.

IBM jette maintenant son chapeau dans le cercle de l’accélération matérielle avec l’annonce cette semaine de l’IBM Artificial Intelligence Unit (AIU). L’AIU est une carte système sur puce complète qui peut se connecter à des serveurs via une interface PCIe standard.

L’AIU est basée sur le même cœur AI qui est intégré à la puce Tellum d’IBM, qui alimente les mainframes de la série IBM z16, y compris le LinuxOne Emperor 4. Chaque AIU a 32 cœurs, développés avec un processus de 5 nm (nanomètre), tandis que les cœurs AI sur le processeur Tellum sont 7nm.

Chez IBM Research, nous avons une équipe très solide de microarchitecture et de conception de circuits qui s’est concentrée sur des conceptions hautes performances principalement pour HPC [high-performance computing] et serveurs pendant de nombreuses décennies, a déclaré Jeff Burns, directeur d’IBM Research AI Hardware Center, à VentureBeat. Alors les mêmes personnes ont commencé à penser à l’accélération de l’apprentissage en profondeur.

Accélérer l’IA avec l’unité d’intelligence artificielle (AIU) d’IBM

Les idées de base derrière l’accélérateur d’IA d’IBM ont commencé à être développées en 2017 et ont été développées au cours des années qui ont suivi.

Le travail d’accélération de l’IA a été repris par le groupe IBM Systems, qui a intégré la technologie dans des processeurs fonctionnant dans des mainframes. Burns a déclaré que son équipe souhaitait également concevoir un système sur puce complet avec une carte PCIe pour créer un dispositif d’accélération de l’IA enfichable qui pourrait être intégré au cloud IBM x86, aux serveurs d’entreprise IBM Power ou aux serveurs partenaires d’IBM. pourrait construire.

L’AIU n’est pas un CPU ou un GPU, mais plutôt un circuit intégré spécifique à l’application (ASIC). Burns a expliqué qu’au lieu de prendre la technologie GPU et de l’optimiser pour l’IA, l’approche IBM a été conçue dès le départ pour l’IA. En tant que tel, l’AIU possède certaines capacités qui ne font pas toujours partie des accélérateurs d’IA courants. L’un est la possibilité de virtualiser les services d’accélération de l’IA que l’AIU peut activer.

Dans n’importe quel environnement cloud ou d’entreprise, plusieurs charges de travail s’exécutent sur du matériel nécessitant un accès aux ressources d’accélération de l’IA. La virtualisation permet à un opérateur de répartir l’accès au matériel.

Les GPU n’étaient pas du tout virtualisés au début, et c’est un endroit où une conception héritée et une nouvelle conception finissent par être radicalement différentes, a déclaré Burns. Si vous prenez quelque chose qui n’a pas été conçu pour être virtualisé, et que vous essayez ensuite de le modifier pour bien prendre en charge la virtualisation, cela peut être un long voyage et assez difficile.

Burns a expliqué qu’IBM AIU a été conçu pour prendre en charge la virtualisation d’entreprise, ce qui inclut la possibilité d’être multi-utilisateurs et multi-locataires de manière fiable pour garantir que les charges de travail sont isolées les unes des autres.

IBM a également conçu l’AIU pour qu’elle soit aussi compatible que possible avec la grande majorité de la pile logicielle utilisée par les data scientists modernes, y compris des outils courants tels que les technologies open source PyTorch et TensorFlow.

L’informatique approximative est la sauce secrète de l’IBM AIU

Une innovation clé qu’IBM intègre à son AIU est une technique d’accélération de l’IA appelée calcul approximatif, pour aider à améliorer les performances.

L’informatique approximative est vraiment la reconnaissance que l’IA n’est pas correcte à 100%, a déclaré Leland Chang, membre principal du personnel de recherche et directeur principal, matériel d’IA, chez IBM Research, à VentureBeat.

Chang a expliqué que l’IA fonctionne souvent en reconnaissant un modèle et pourrait bien n’être précise qu’à 99 %, ce qui signifie que 1 % des résultats sont incorrects. Le concept de calcul approximatif est la reconnaissance que dans l’algorithme d’IA, il est possible de couper certains coins. Alors que Chang a admis que cela peut réduire la précision, il a expliqué que si des informations sont perdues aux bons endroits, cela n’affecte pas le résultat qui, le plus souvent, sera toujours correct à 99 %.

L’informatique approximative, dans une certaine mesure, est une expression et un nom qui sonne bien, mais il s’agit simplement de reconnaître qu’elle n’a pas besoin d’être exacte à 100 %, a déclaré Chang. Vous perdez des informations, mais vous perdez dans des endroits où cela n’a pas d’importance.