ARM dans les datacenters : des détails techniques sur Neoverse V1, N2 et CMN-700

ARM vient de dévoiler de nouvelles informations sur ses deux prochaines plateformes pour serveurs : Neoverse V1 et N2. On apprend que cette dernière exploitera l’architecture ARMv9. Le fabricant présente aussi son Coherent Mesh Network 700 capable de gérer jusqu’à 256 cœurs par die.

Cela fait maintenant deux ans et demi qu’ARM a lancé son initiative Neoverse pour s’attaquer au monde des serveurs. La première plateforme Cosmos exploitait des Cortex-A72 et servait de base aux processeurs Graviton d’Amazon. Début 2019, Neoverse N1 était annoncée et la société de Jeff Bezos suivait le mouvement avec Graviton 2.

En septembre, ARM annonçait la suite avec deux nouvelles plateformes toujours plus rapides et avec plus de fonctionnalités : Neoverse N2 et V1. Les détails manquaient alors. Une erreur aujourd'hui corrigée, et le fabricant n’y va pas avec le dos de la cuillère : Neoverse V1 et N2 doivent ouvrir la porte à une « nouvelle ère ».

Il faut dire qu'ARM est en train de se faire croquer par NVIDIA, qui vient justement d'exposer sa stratégie pour gagner du terrain dans le datacenter avec son premier CPU dédié à ce marché, Grace. ARM profite de ses annonces du jour pour rappeler qu'il compte bien d'autres partenaires.

• Neoverse N2/V1, 5 nm, DDR5/PCIe 5.0, CXL : ARM à fond sur le datacenter pour 2021/2022
• Grace : NVIDIA lance son premier CPU pour serveur, des SoC Mediatek avec GeForce RTX

Neoverse V1 : ARM donne des détails techniques

ARM réaffirme que Neoverse V1 sera 50 % plus rapide que l’actuelle plateforme N1. La société ajoute que sur les charges de travail vectorielles le gain serait de 1,8x et de 4x pour le machine learning.

• Accéder à la fiche produit du Neoverse V1

Pour rappel, V1 supportera la DDR5, la HBM3, le PCIe 5.0, CXL 2.0, bFloat16, Int8 et SVE (Scalable Vector Extension) avec deux fois plus de bande passante que sur N1 (soit 2x 256 bits). De quoi s'opposer plus directement à Intel et son prochain processeur Sapphire Rapids qui annonce des technologies similaires. 

Alors que Neoverse N1 était basé sur l’architecture ARMv8.2, V1 pourra profiter d'instructions ARMv8.3 à v8.6. C’est notamment le cas de MPAM (Memory Partitioning and Management) et de CBusy (Completer Busy).

La finesse de gravure de Neoverse V1 pourra descendre jusqu’à 5 nm. La conception interne « comprend un prédicteur de branche découplé du pipeline d'instructions et capable de pré-extraire des instructions dans le cache d'instructions (icache). L'unité de prédiction de branche a été élargie à 2x32 blocs par cycle ».

Le processeur dispose aussi d’un nouveau cache « L0-decoded micro-opcode » afin d’« optimiser les performances des petits noyaux ». De plus amples détails techniques sont donnés sur cette page.

Neoverse N2 passe au 5 nm et à ARMv9

Du côté de Neoverse N2, la promesse est d'une solution 40 % plus performante que N1, se plaçant donc juste en dessous de V1. N2 exploitera pour sa part la nouvelle architecture ARMv9 et profitera donc de SVE2.

• Accéder à la fiche produit du Neoverse N2
• Arm présente sa nouvelle architecture v9

Cette dernière « améliore les capacités de traitement pour les systèmes 5G, la réalité virtuelle et augmentée, et les opérations d’apprentissage automatique s'exécutant localement sur des processeurs, telles que le traitement des images et les applications de domotique ».

ARM annonce une hausse de l’IPC de 40 % contre 10 % pour la fréquence, notamment possible grâce au passage à une finesse de gravure de 5 nm (contre 7 nm pour le Neoverse N1). Pour rappel, la DDR5, la future mémoire HBM3, CCIX 2.0, bFloat16 et Int8 sont également de la partie. Un billet de blog technique sur Neoverse N2 est disponible ici.

CMN-700 : jusqu’à 256 cœurs par die

ARM présente aussi un nouveau contrôleur pour gérer les cœurs Neoverse : le CMN-700 (Coherent Mesh Network), qui vient remplacer le CMN-600 lancé il y a maintenant cinq ans.

• Accéder à la fiche produit du CMN-700

Il peut désormais gérer jusqu’à 256 cœurs par die et un total de 512 cœurs par système, contre respectivement 64 et 128 précédemment. Le Neoverse V1 Reference Design (RD) en intègre entre 32 et 128 par défaut. Le System Level Cache (SLC) passe de 128 à 512 Mo par die et le nombre de nœuds de 8x8 (64) à 12x12 (144).

Pas moins de 40 canaux mémoire sont disponibles, contre 16 auparavant. Reste maintenant à découvrir les SoC et plateformes techniques qui exploiteront ces différentes technologies afin d'analyser leurs caractéristiques en détails, et voir comment elles se positionneront face aux EPYC d'AMD et Xeon d'Intel.

Pour rappel, la suite des « hostilités » est déjà connue, ARM préparant ses plateformes Poséidon pour 2023.

ARM évoque ses premiers partenaires

D'ailleurs, ARM multiplie les annonces de partenariat. Marvell utilisera la plateforme Neoverse N2 pour ses solutions réseau OCTEON, dont les premiers échantillons sont attendus pour la fin de l’année. Selon ARM, les performances seraient triplées par rapport aux générations précédentes, sans plus de détails.

Du côté d'AWS, Graviton 2 devrait continuer de prendre de l'importance. On attend surtout l'annonce d'une nouvelle puce Graviton 3, peut-être plus tard dans l'année ? Quoi qu'il en soit, le Ministry of Electronics and Information Technology (MeitY du gouvernement indien) avec SiPearl et ETRI vont utiliser des cœurs Neoverse V1 pour leur projet national de supercalculateur exascale.