Il y a trois semaines, NVIDIA et OpenAI s’engageaient réciproquement : le premier investit jusqu’à 100 milliards de dollars dans le second, tandis qu’OpenAI s’engage à déployer « au moins 10 GW de systèmes NVIDIA ». Greg Brockman, cofondateur et président d’OpenAI, se disait « impatient de déployer 10 GW de puissance de calcul ». La semaine dernière, rebelote avec AMD et OpenAI cette fois-ci. Pas de détail sur le volet financier, mais la promesse qu’« OpenAI va déployer 6 GW de GPU AMD ».

Pourquoi les trois comparses parlent-ils de GW pour évoquer une puissance de calcul ? Qu’est-ce que cela veut dire en termes de performances ? Qu’est-il possible de faire avec cette débauche de watts ?

Au fait, c’est quoi des watts et des watts heures ?

Commençons par rappeler les bases. Le W ou watt est une unité de puissance, avec tous les dérivés possible que sont les kW, MW, GW, TW avec kilo, mega, giga, tera ; avec une multiplication par 1 000 à chaque fois. Comme pour beaucoup de choses, Next a évidemment un dossier complet sur la question de la puissance et de la consommation électriques.

• Sciences

  Courant électrique, puissance, déphasage, Wh, Ah, kVA… Perdus ? Pas de panique, on vous explique

  Sciences

  Lundi 23 janvier 2023 à 07h18 23/01/2023 07h18

  89

Le watt (W) ne doit surtout pas être confondu avec le watt heure (Wh), ainsi que tous les dérivés kWh, MWh, GWh, TWh). Le Wh est une unité permettant de mesurer une consommation électrique. Une lampe de 10 watts allumé pendant 1 h a consommé 10 Wh. Si elle reste allumée pendant 30 minutes, elle a consommé 5 Wh ; sur 5 h, on passe à 50 Wh.

C’est pour cela que les chargeurs indiquent des W (une puissance qu’ils peuvent transmettre), tandis que les batteries affichent des Wh (une capacité qu’elles peuvent restituer). Pour la consommation ou la production d’électricité avec des effets saisonniers, on peut parler de Wh sur une journée, une semaine, une année… Par exemple, on parle généralement de Wh annuels pour le photovoltaïque (pour lisser les différences entre été et hiver).

On peut faire une comparaison facile avec une voiture : il ne faut surtout pas mélanger les km (une distance) et les km/h (une vitesse). Cela ne vous viendrait pas à l’idée de dire qu’une voiture a « parcouru 350 km/h » ni qu’elle « roule à 90 km ». C’est exactement pareil avec l’électricité, il ne faut pas mélanger les deux. Maintenant, vous n’avez plus d’excuses : interdit de faire l’erreur.

6 ou 10 GW, mais avec ou sans le reste des équipements informatique ?

Revenons à nos moutons numériques et aux partenariats pour déployer 6 ou 10 GW de GPU. Qu’est-ce que cela veut dire ? Réponse évidente : c’est une puissance électrique… mais laquelle exactement ? La consommation des GPU seuls, ou bien celles des serveurs avec le reste des composants ? Est-ce que cela correspond à la puissance maximum du datacenter dans lequel seront déployés les GPU ?

Pour les datacenters, avec 6 GW de puissance électrique en entrée, il y a forcément moins de puissance qui arrivent sur les serveurs puisqu’il faut aussi alimenter le bâtiment, les systèmes de refroidissement, les équipements réseau, les salles de maintenance, etc. Il existe un indicateur pour les datacenters : le PUE ou indicateur d’efficacité énergétique.

Simplifions-nous la vie et partons du principe que les 6 ou 10 GW correspondent à la puissance intégralement disponible pour les seuls GPU, sans aucune perte (oui, nous sommes dans le monde des Bisounours, mais il faut bien avancer).

Comment passer d’une puissance électrique à la puissance de calcul d’un GPU ? Cette dernière s’exprime en nombre d’opérations par seconde. Il existe deux familles : FLOPS et OPS. Dans le premier cas, FL signifie floating-point ou nombre à virgule flottante. Dans les deux cas, OPS est simplement la version réduite des mots opérations par seconde. On peut aussi ajouter un P pour peta ou un T pour tera devant cette unité, ce qui donne des TFLOPS/TOPS ou des PFLOPS/POPS.

Quand AMD et NVIDIA parlent puissance électrique : TDP, TBP, TGP, GCP…

Dans les caractéristiques techniques des GPU, il est question de watts pour un élément : le TDP (Thermal Design Power) dont vous avez peut-être entendu parler… mais aussi pour le TBP (Typical Board Power), TGP (Total Graphic Power), GCP (Graphic Card Power) ou encore MPC (Max Power Consumption).

Pour les dernières Radeon Instinct, AMD parle de Typical Board Power (TBP), alors qu’il était question de Thermal Design Power (TDP) auparavant.

Chez NVIDIA, le Max Thermal Design Power (TDP) est indiqué sur les derniers GPU, avec une mention supplémentaire avant la puissance : « Configurable ». Oui, le TDP est ajustable en fonction des besoins et/ou de la puissance disponible. Pour un même GPU, le TDP peut ainsi changer en fonction de l’usage, du châssis dans lequel il est installé, des besoins, etc.

Afin de nous simplifier la vie, nous allons prendre le maximum indiqué dans les caractéristiques techniques, que ce soit pour les TBP ou les TDP configurables. On se contentera de parler de TDP.

1 GW : des centaines de milliers de GPU… ou des centaines de millions

Partons du principe que quand OpenAI parle de 6 ou 10 GW cela correspond à la puissance cumulée de l’ensemble des GPU (il n’existe pas un unique GPU capable d’engloutir autant de watts). Rappel des unités : 1 GW c’est aussi 1 000 MW, 1 000 000 kW et enfin 1 000 000 000 W.

Avec un GPU dont le TDP est 500 W, il en faudrait donc 2 millions pour arriver à 1 GW. Avec 750 W, il n’en faut plus que 1,33 million, 667 000 si le TDP est de 1 500 W, 500 000 GPU avec un TDP de 2 000 W, etc. Vous avez compris le principe. Là encore, nous faisons totalement abstraction de la partie « support » : il faut des cartes mères et du réseau pour relier tout ce petit monde, ce qui consomme de l’électricité.

Voici quelques exemples, avec 1 GW de puissance électrique. Nous comparons certaines des cartes/machines récentes d’AMD et de NVIDIA. Il suffit de multiplier par six ou dix pour passer à 6 GW ou 10 GW :

1 GW de puissance électrique c’est :

• 715 000 GPU Instinct MI355X
• 1 000 000 GPU Instinct MI350X
• 1 335 000 GPU Instinct MI300X
• 3 335 000 GPU Instinct MI210

On arrive à un rapport de 1 à 5 sur le nombre de GPU, ce qui n’est pas surprenant puisque le TDP de la MI355X est de 1 400 W, contre 300 W pour la MI210.

Jusqu’ici, rien de bien sorcier, mais connaitre le nombre de GPU permettait-il d’en déduire la puissance de calcul, la quantité de mémoire, les niveaux de précisions pris en charge ? Non, et pire encore : cela varie énormément en fonction des générations et des références.

Le TDP augmente plus vite que les performances

Attardons-nous deux minutes sur les MI355X et MI350X La première est cadencée à 2 200 MHz, contre 2 400 MHz pour la seconde, soit un peu moins de 10 % de plus. Le TDP passe par contre de 1 000 à 1 400 W, soit 40 % de plus (pour 200 MHz) !

Le gain en performances ne suit pas la même progression : de 4,6 PFLOPS en FP8 pour la MI350X, on passe à 5 PFLOPS sur la MI355X, soit à peine 10 % de plus (pour une consommation en hausse de 40 %, pour rappel).

Si on multiplie les cartes pour arriver à 1 GW de puissance électrique, la MI355X obtient 3 571 ExaFLOPS en FP8, contre 4 600 ExaFLOPS pour la MI350X. La carte la plus haut de gamme ne permet pas d’avoir les meilleures performances dans une enveloppe contrainte de 1 GW.

Dit autrement, augmenter la cadence du GPU (et peut-être sa tension au passage) fait grimper la consommation bien plus vite que les performances.

Avec 1 GW, la foire des performances chez AMD et NVIDIA

Dans un usage datacenter, et si on ne prend en compte que les watts, la MI350X est donc plus intéressante. Mais on passe à côté d’une autre variable très importante : la densité, c’est-à-dire le nombre de GPU dans un espace donné. 1 000 000 MI355X prennent évidemment plus de place que 715 000 MI350X puisque le format est le même pour les deux GPU.

Même variabilité sur la quantité de mémoire sur la partie GPU : 1 million de MI350X proposent 288 000 To, contre 205 715 To avec des MI355X. Cela fait tout de même 40 % de mémoire de plus avec les MI350X !

Chez NVIDIA, c’est la même chose. Toujours avec une puissance de 1 GW, si on veut un maximum de performances en FP8, les B100 SXM s’en sortent le mieux avec 5 000 ExaFLOP, suivi par les HGX B200 (4 500 ExaFOP), les GB200 NVL72 (4 167 ExaFLOPS), etc. En FP32 (une précision qui ne sert pas à grand-chose en IA), la petite et vieillissante NVIDIA L40 arrive en tête, mais il faut alors combiner plus de 3,3 millions de cartes…

C’est parfois compliqué au sein d’une même architecture

On en revient à notre point de départ : parler en GW pour la puissance de calcul ne veut rien dire. Sur les générations actuelles, le nombre de GPU et les performances peuvent varier d’un facteur 20, la quantité de mémoire d’un facteur 2, etc. C’est comme avec les statistiques, on peut faire dire ce qu’on veut aux chiffres ou presque.

Bref, un datacenter avec une puissance de 1 GW peut contenir aussi bien 0,7 million de GPU Blackwell que 3,3 millions de Hopper ou 14 millions d’Ada Lovelace. Nous nous appuyons ici sur les anciennes générations dont nous avons les chiffres, mais dans le futur, le TDP des cartes va certainement s’accélérer et on aura donc de moins en moins de GPU pour 1 GW.

Impossible de prédire jusqu’où cela peut aller. Avec les générations futures de GPU qui consommeront de plus en plus – les rumeurs font état de 1 600, 1 800 voire 2 000 watts pour les Instinct MI40 – la densité augmentera : il faudra moins de GPU pour consommer 1 GW. De quoi faire encore bouger les inconnus d’une équation dont on ne maitrise déjà pas tous les paramètres.

Il faut donc réussir à trouver le bon équilibre entre les besoins en performance, la densité des GPU et la puissance totale disponible. En n’ayant qu’une seule des trois variables (les watts), impossible d’en conclure quoi que ce soit sur les deux autres.

Comment s’y retrouver ? Facile : on ne peut pas…

Le choix d’un GPU pour l’IA se fait en fonction de ses possibilités (tous ne savent pas faire du FP4 par exemple), de ses besoins précis pour les calculs (nombre à virgule flottante ou entier, quel niveau de précision), de la quantité de mémoire, etc. Déclarer une « puissance de calcul en GW » ne répond à aucune de ces questions.

Par contre cela permet à OpenAI d’annoncer de gros partenariats, sans donner aucun détail sur le futur des GPU de ses partenaires… ni sur ses ambitions et choix. Préciser le type de GPU ou même simplement l’architecture permettrait d’avoir un indice sur le niveau de précision qui l’intéresse.

Avec une annonce aussi floue que des GW de GPU, nous ne pouvons absolument rien en déduire, que ce soit sur la taille des data centers, le nombre de GPU, les performances, la quantité de mémoire, etc. Par contre, AMD, OpenAI et NVIDIA sont assurés de faire les gros titres, qu’importe si c’est sur du vent ou presque. Seule certitude, il va falloir de l’électricité en grosses quantités pour alimenter les GPU, quels qu’ils soient.

• Économie

  IA : la valse des contrats entre NVIDIA, OpenAI et consorts ravive les craintes d’une bulle

  Économie

  Mercredi 08 octobre 2025 à 17h31 08/10/2025 17h31

  21

Les trois partenaires n’annoncent que ce qui les arrangent, les détails des contrats sont certainement bien plus précis. OpenAI n’aurait par exemple que faire de dizaines de millions de GPU de la génération Ada Lovelace, même si ca collerait avec les « 10 GW de puissance ». La société précise néanmoins que le premier GW sera avec les prochains GPU de la gamme Vera Rubin de NVIDIA et de la série des MI450 d’AMD. Là encore, c’est très flou et rien n’est précisé sur le reste des GW ni sur le calendrier des déploiements.

L’équivalent de 16 réacteurs nucléaires pour OpenAI

Un dernier mot sur la puissance électrique. On parle de GW presque comme si ce n’était pas grand-chose, mais c’est quand même l’ordre de grandeur de la production d’un réacteur d’une centrale nucléaire française, comme l’explique EDF :

« En France, le nucléaire est la 1ʳᵉ source de production et de consommation d’électricité. Elle provient de 57 réacteurs de différents niveaux de puissance constituant un parc réparti sur l’ensemble du territoire. La puissance installée du parc nucléaire en France représente 61,4 GW ».

La plus grosse puissance actuelle est de 1,6 GW avec le réacteur EPR de Flamanville. Si l’on se réfère à la puissance moyenne dans l’Hexagone, OpenAI annonce donc prévoir d’« utiliser » l’équivalent de 16 réacteurs nucléaires français avec ses deux partenariats (6 GW avec AMD et 10 GW avec NVIDIA). Les guillemets autour d’utiliser sont de rigueur, car les TDP correspondent à la puissance maximale que les GPU peuvent encaisser lors d’une charge intensive, et les 6 GW d’un data center, sa puissance maximale. Si le GPU est moins sollicité, la consommation est évidemment plus basse.

Rien n’est dit concernant la source qui sera utilisée pour alimenter les datacenters du géant de l’intelligence artificielle.

Nous pourrions d’ailleurs jouer, nous aussi, aux « apprentis marketeux » en modifiant légèrement l’annonce des trois comparses : OpenAI s’engage à consommer « 10 réacteurs nucléaires français* » de GPU NVIDIA et « 6 réacteurs nucléaires français* » de GPU AMD. Avec la petite étoile qui explique que c’est la moyenne selon EDF, avec un lien vers le site officiel pour faire « plus sérieux ». Pas sûr que ce soit plus vendeur pour les trois partenaires américains, mais ce n’est pas moins précis que parler de GW.