Lisa Su, CEO d’AMD, était sur scène pour une conférence baptisée « Advancing AI ». C’est dans l’air du temps, mais pourquoi diable annoncer les nouveaux EPYC de 5e génération basée sur Zen 5 pendant une telle keynote ? Il ne s’agit en effet « que » de CPU pour serveur, sans NPU ou autre pour l’IA.

Le communiqué de presse a la réponse (qui vaut ce qu’elle vaut…) : « La nouveauté de la série EPYC 9005 est l'EPYC 9575F avec 64 cœurs, conçu sur mesure pour les solutions d'IA alimentées par GPU qui nécessitent les meilleures capacités du processeur hôte ». Nous allons y revenir, mais la principale nouveauté est simplement une fréquence de fonctionnement plus élevée.

Pluie d’EPYC 9005, il y en a pour tous les goûts

AMD annonce une trentaine de références dans sa gamme EPYC 9005 (nom de code Turin), des CPU pour les serveurs exploitant la nouvelle architecture Zen 5 et Zen 5c. Ils succèdent donc aux EPYC 9004 qui sont pour rappel basé sur Zen 4 et 4c, avec un maximum de 128 cœurs. Les nouveaux en intègrent jusqu’à 192, soit 50 % de plus tout de même.

• Processeurs Zen 4 : notre comparatif des CPU Ryzen, Threadripper et EPYC d’AMD

Nous sommes déjà revenus sur les nouveautés de l’architecture Zen 5 dans un précédent article. Elle passe pour rappel de quatre à six ALU (Arithmetic Logic Unit) et de trois à quatre AGU (Address Generation Unit). Le gain est pour rappel de 16 % en moyenne sur l’IPC, les caches ont été améliorés et, sur la partie floating point (FP), le bus est de 512 bits au lieu de 2x 256 bits (meilleures performances avec AVX-512),

• CPU AMD : sous le capot des architectures Zen 5, XDNA 2 et RDNA 3.5

AMD EPYC : rappel sur les déclinaisons « P » et « F »

Les nouveaux EPYC 9005 exploitent comme leur prédécesseur un socket SP5. Un rappel avant d’entrer dans le détail : les processeurs dont la référence se termine par un « P » sont 1P, c’est-à-dire prévu pour les cartes mères avec un seul socket. Les autres sont 2P par défaut, c’est-à-dire compatibles avec les cartes mères avec un ou deux sockets.

Comme expliqué précédemment, AMD met en avant une nouvelle référence : l’EPYC 9575F. La série « F » n’est pas nouvelle. Elle peut en intéresser certains, car elle a des fréquences plus élevées que les autres processeurs à nombre de cœurs identique. En EPYC 9004 (4e génération, avec Zen 4), le plus haut de gamme de la série « F » était le 9474F avec 48 cœurs « seulement ». Désormais, AMD passe donc à 64 cœurs avec l’EPYC 9575F.

L’EPYC 9575F peut atteindre 5,0 GHz en mode boost, ce qui est la fréquence la plus élevée des EPYC 9005, à égalité avec l’EPYC 9175F, mais avec 16 cœurs seulement.

Et voilà, c’est suffisant pour affirmer que le CPU est « conçu sur mesure pour les solutions d'IA alimentées par GPU qui nécessitent les meilleures capacités du processeur hôte ».

Zen 5, Zen 5C, CCD et nombre de cœurs par CPU

Quoi qu’il en soit, AMD mélange une fois encore dans sa gamme EPYC 9005 des processeurs avec des cœurs Zen 5 et d’autres en Zen 5c, une version allégée permettant une plus grande densité. Les CPU avec 144, 160 et 192 cœurs sont tous en Zen 5c.

Par contre, avec 96 ou 128 cœurs, c'est un grand mélange. Nous avons le 9755 avec 128 cœurs Zen 5, contre 128 cœurs Zen 5c pour le 9745. Même différence entre les EPYC 9655 et EPYC 9645, mais avec 96 cœurs. La différence est d’un peu plus de 800 dollars pour avoir une architecture Zen 5, par rapport au Zen 5c sur le même nombre de cœurs. En dessous de 96 cœurs, tous les CPU sont en Zen 5 uniquement.

Un livre blanc sur les architectures Zen 5 et 5c est disponible par ici. Pour résumer, les processeurs en Zen 5 sont articulés autour d’un maximum de 16 CCD (Core Chiplet Die, un ensemble composé de cœurs et mémoire cache), chacun avec 8 cœurs Zen 5 au maximum, soit un total de 128 cœurs par CPU (18x8, vous suivez ?). Chaque CCD a 32 Mo de cache L3 partagé entre les huit cœurs, soit un total de 512 Mo de L3 maximum.

Avec Zen 5c, AMD peut mettre jusqu’à 12 CCD par CPU, mais chacun est composé de 16 cœurs, soit 192 cœurs Zen 5c maximum (16x12). Chaque CCD dispose aussi de 32 Mo de cache L3 partagé entre les cœurs du CCD, ce qui donne au maximum 384 Mo de L3 partagé.

Dans tous les cas, les cœurs des Zen 5 et 5c ont 1 Mo de cache L2 chacun.

Pour résumer :

• Zen 5 : 16 CCD avec 8 cœurs (32 Mo de cache L3 par CCD), soit 128 cœurs maximum
• Zen 5c : 12 CCD avec 16 cœurs (32 Mo de cache L3 par CCD), soit 192 cœurs maximum

Les processeurs supportent tous 12 canaux pour la DDR5 à 6 000 MT/s, pour une capacité maximale théorique de 6 To de mémoire. 128 lignes PCIe sont de la partie pour les EPYC 1P, contre 160 lignes pour tous les autres. Enfin, le TDP varie entre 155 et 500 watts.

Imbroglio sur le cache L3

Comme il y a moins de CCD, c’est logique que, à nombre de cœurs équivalents, les CPU en Zen 5c disposent de moins de mémoire cache L3 que ceux en Zen 5 puisqu’elle est la même quel que soit le CCD. Simple non ?

Pas tant que ça, car on peut voir qu’AMD se contredit entre le tableau récapitulatif publié au début de cette actualité et cette page. L’EPYC 9645 avec 96 cœurs Zen 5c est annoncé une fois avec 384 Mo de cache L3 (soit autant que l’EPYC 9655 avec 96 cœurs Zen 5) et une autre fois avec 256 Mo de cache L3. Suivant le nombre de CCD utilisé, cela peut varier entre 192 et 384 Mo.

Pour rappel, en Zen 4 AMD était limité à 12 CCD de 8 cœurs, soit 96 cœurs au total, contre 8 CCD de 16 cœurs en Zen 4c, soit 128 cœurs. AMD peut ainsi proposer des processeurs EPYC avec 128 cœurs Zen 5, alors qu’il était obligé de passer sur des cœurs allégés auparavant.

Des versions PRO des Ryzen AI 300

AMD annonce aussi trois nouveaux processeurs dans la série des Ryzen AI avec les 9 HX PRO 375, 9 HX PRO 370 et 7 PRO 360. Ils viennent se positionner en parallèle des versions non PRO déjà lancées cet été. Comme leur nom l’indique, ils reprennent les mêmes bases que les Ryzen AI 300, mais avec les fonctionnalités AMD PRO Technologies, qui sont détaillées par ici.

Le Ryzen AI 7 PRO 360 n’a pas (encore ?) d’équivalent dans la série non Pro. Il dispose de 8C/16T, tandis que le Ryzen AI 7 365 a 10C/20T (mais lui n’existe pas en version PRO). Les autres Ryzen AI (PRO) 370 et 375 ont tous 12C/14. La différence entre les Ryzen AI 9 HX 370 et 9 HX 375 (PRO ou non) est plus que minime : on passe de 50 à 55 TOPS sur le NPU. La liste de tous les Ryzen AI se trouve ici.

• AMD : Zen 5 à tous les étages (Ryzen AI, 9000, Epyc), roadmap des GPU Instinct jusqu’en 2026

L’Instinct MI325X avec 288 256 Go de HBM3e arrive cette année

Dernière annonce du jour : l’accélérateur Instinct MI325X, qui avait déjà été annoncée pour cette fin d’année. Il exploite pour rappel l’architecture CDNA 3. Il faudra attendre l’année prochaine avec les Instinct MI350 pour passer à l’architecture CDNA 4.

Le MI325X reprend les mêmes caractéristiques techniques que l’Instinct MI300X (304 unités de calculs, 1 216 cœurs matriciels, 19 456 processeurs de flux…), mais avec 256 Go de mémoire HBM3E à 6 Gb/s (bande passante de 6 To/s), contre 192 Go de HBM3 à 5,2 Gb/s (5,3 To/s) sur son prédécesseur. Pour le reste, aucun changement si ce n’est le Typical Board Power qui passe de 750 watts en pointe sur le MI300X à 1 000 watts sur le MI325X.

C’est moins que ce qui avait été annoncé en juin puisque AMD parlait de 288 Go de HBM3e sur son MI325X, avec également une bande passant de 6 To/s. Les 288 Go de HBM3e sont désormais reportés sur l’Instinct MI350, attendu pour la seconde moitié de 2025.

AMD n’explique pas pourquoi il a changé son fusil d’épaule, mais les soucis d’approvisionnement en HBM3e pourrait en être l’origine. Le fabricant semble donc être passé de puces de 36 Go à des versions de 32 Go (contre 24 Go pour la MI300X en HBM3).

AMD affirme être en bonne voie pour démarrer les expéditions des Instinct MI325X d’ici à la fin de l’année.