#Nextquick : pourquoi les GPU des cartes graphiques sont-ils aussi bons pour l’IA ?
1 bulldozer vs 10 000 pelles
Quand on parle de l’entraînement et de l’utilisation de l’intelligence artificielle, on l’associe à de grosses cartes graphiques. Pourquoi les GPU sont-ils à ce point plébiscités et pas les CPU ? Les deux pourtant font des calculs !
Pour ce deuxième numéro de #Nextquick, on va répondre à une question : pourquoi les processeurs graphiques (GPU, pour Graphic Processing Units) sont incontournables dans le monde de l’IA ? La réponse courte tient en quelques mots : l'intelligence artificielle exploite énormément les calculs matriciels et vectoriels, domaine dans lequel les GPU excellent. La version longue nécessite plus de détails.
À l’origine, les cartes graphiques sont arrivées avec le développement de la 3D pour calculer toujours plus de pixels afin d’améliorer le rendu dans les jeux vidéo. Pendant 30 ans, les GPU (la puce principale sur la carte graphique) ont vu leur puissance de calcul augmenter de façon continue.
Des cœurs dans le GPU pensés pour l’IA
Un CPU moderne dispose généralement de quelques cœurs, voire de quelques dizaines de cœurs, alors que sur un GPU, ces cœurs se comptent en centaines, voire en milliers. Dans l’architecture Blackwell, la dernière en date de NVIDIA, il y a plus de 20 000 cœurs CUDA et 640 Tensor.
Sans entrer dans tous les détails, les Tensor Cores sont spécialement pensés pour les besoins de l’intelligence artificielle. Ils permettent des calculs en virgule flottante avec une précision réduite (4, 6 ou 8 bits) là où les CUDA s’arrêtent à 16 bits.
La différence est très importante : les nombres FP4 prennent deux fois moins de place en mémoire que les FP8, mais sont aussi moins précis. On passe à un rapport quatre avec les FP16, etc. Deux dossiers à lire sur ce sujet :
- Les nombres en informatique : entiers, virgule flottante, simple et double précision (FP32/64), Tensor Float (TF32)…
- Rapidité vs précision : deux experts nous expliquent les enjeux des GPU modernes sur les IA
Commentaires (10)
Modifié le 17/10/2025 à 09h39
Modifié le 17/10/2025 à 09h49
Le passage sur le vectoriel a réussi à expliquer en quelques mots avec les images le fonctionnement d'un LLM, bien joué
À noter que le cas d'usage du RAG s'appuie lui aussi sur des bases de données vectorielles.
Le 17/10/2025 à 13h21
Je reprends d'abard la description de François Chollet sur le "deep learning". Tout d'abord, comme on a pu voir dans l'article, tout peut être représenté par un vecteur, c'est-à-dire un point dans un espace à N dimension (N peut être très grands). On peut représenter l'espace d'entrée comme une boulette de papier dans cette espace à N dimension, nos données sont des points sur la feuille de papier qui compose la boulette. Le but d'un réseau de neurone, c'est de déplier et replier cette boulette de papier de tel sort que les données soient ordonnées, par exemple, qu'un simple hyperplan (comme un plan, mais dans un espace à N dimension) permette de séparer ces données en 2 catégories. Chaque couche de neurones plie ou déplie cette boulette de papier. Le "deep learning", c'est le fait d'avoir plein de couches de neurones, donc pouvoir faire plein de déformation de la boulette d'origine et donc pouvoir obtenir des structures plus complexes.
Maintenant un LLM va faire une opération qui transforme au fur et à mesure chaque suite de vecteurs (qui représentent à la base plus ou moins un mot chacun). Ils utilisent aujourd'hui pour la grande majorité des "transformer", qui est une suite assez complexe d'opération dont le cœur est le mécanisme d'attention : la transformation que va subir un vecteur (un mot) est calculé en fonction du contexte qui l'entour. Cependant, à chaque vecteur, on ne va pas porter une importance égale à tous les éléments de ce contexte, mais au contraire, à chaque mot, on va mettre plus de poids à tel ou tels autres mots dans la phrase (par exemple, lorsque l'on est sur un pronom, le mécanisme d'attention va potentiellement s'intéresser au nom qu'il remplace, et lorsque c'est un verbe, il va sûrement chercher le sujet et le COD). Tout ça étant des "neurones", c'est entièrement appris (on ne donne pas de règle sur quoi porter l'attention, ça apprend tous seul).
La majorité des LLM courant et grand public (chatGPT&co), sont basés des modèles de fondation, ils ont appris donner le prochain mots d'un texte en cours d'écriture.
Le 17/10/2025 à 14h51
Elle fonctionne très bien pour ça sans rentrer dans un détail qui perdra tout le monde.
Le 17/10/2025 à 10h10
Si les GPUs ont plus de coeurs qu'un CPU, mais les coeurs d'un GPU sont nettements plus simple d'un point de vue architecturale. Par exemple, les mécanismes de scheduling au sein d'un CPU sont nettement plus complexe que ceux dans un GPU. Également, les mécanismes de prédicat de branchement sont inexistant. D'ailleurs les GPUs n'aiment pas les sauts conditionnels, surtout lorsque celui intervient dans le calcul. C'est moins embêtant lorsqu'on fait par exemple du reduce, et que le saut conditionel a vocation a mettre idle d'autres threads que le principal.
Là où je tique beaucoup plus c'est la notion de parallélisme donnée par Google. Soyons plus précis, le parallélisme dans un GPU n'est pas le parallélisme dans un CPU au sens où plusieurs coeurs d'un CPU peuvent travailler sur une matrice ou autres structures de données.
Le parallélisme dans un GPU est assez proche du "parallélisme" SIMD d'un coeur CPU, i.e. la possibilité de pouvoir effectuer une même opération (addition, multiplication, bit shift...) sur plusieurs données en même temps au prix d'un temps équivalent à la même opération en scalaire. En réalité, un GPU est plus SIMT que SIMD mais passons.
Par exemple, si je fais 3.14f*x (x est un float 32 bits) sur un Zen 2 tournant à une fréquence nominale de 4 GHz, ça prend 1 ns.
Si maintenant je fais 3.14vx (vx est un tableau/vecteur de float 32 x4 [4 car 432=256 bits -> AVX256]), je peux effectuer en 1 ns 4 opération sur mon vecteur, qui peut par exemple représenter les canaux rgba d'une image.
Et à ce jeu là les GPUs sont terriblement redoutable. D'où leur utilité pour les IA, le calcul matriciel (simulation, image processing...) et autres domaines où les algorithmes peuvent être pensés pour s'implémenter avec ce genre de possibilité matérielle.
Au final, le parallélisme d'un GPU n'est pas celui d'un CPU au sens commun du terme. Ce qui le décrit mieux est l'aspect vectoriel des unités SIMD (MMX, SSE, AVX, AMX...) du CPU dont le parallèle avec le GPU est nettement plus direct.
Mes 2 cents.
Le 17/10/2025 à 10h37
Le 17/10/2025 à 12h36
Le 17/10/2025 à 13h03
Le 18/10/2025 à 08h25
Merci à tous
Le 18/10/2025 à 15h30
Signaler un commentaire
Voulez-vous vraiment signaler ce commentaire ?