Connexion Premium

Raspberry Pi AI HAT+ 2 : 40 TOPS* et 8 Go de mémoire pour le Raspberry Pi 5

pas TOPS

Raspberry Pi AI HAT+ 2 : 40 TOPS* et 8 Go de mémoire pour le Raspberry Pi 5

Le 19 janvier à 16h20

Cela fait maintenant plus d’un an et demi que la fondation Raspberry Pi a lancé son premier module d’intelligence artificielle pour le micro-ordinateur éponyme. Il s’agit dans les faits d’un NPU externe, à brancher au Raspberry Pi 5. Quelques mois plus tard, des modules AI HAT+ débarquaient.

Après les Hailo-8(L), la Hailo-10H

La semaine dernière, le Raspberry Pi HAT+ 2 était annoncé. La puissance de calcul est plus importante avec 40 TOPS sur des entiers de 4 bits (INT4)… mais attention aux effets d’annonce. Selon la fondation, c’est « son premier produit d'IA » pensé pour l’intelligence artificielle générative.

Pas de changement de crémerie pour le Pi HAT+ 2 : c’est encore une puce Hailo qui est aux commandes, la version 10H cette fois-ci (au lieu des Hailo-8 et Hailo-8L précédemment). Elle est disponible au format M.2 ou avec une puce à souder, la fondation a choisi la seconde option.

Le tout premier AI Kit était pour rappel composé d’un M.2 HAT+ avec une carte M.2, mais ce format a été laissé de côté avec les versions AI HAT pour un module unique avec la puce soudée.

2,5 watts et 40 TOPS… en INT4, 20 TOPS en INT8

La fiche technique indique une puissance de 2,5 watts, exactement comme la Hailo-8 (1,5 watts pour la version Light à 13 TOPS). La puissance annoncée par Hailo est évidemment la même : 40 TOPS en INT4 et 20 TOPS en INT8. C’est mieux que les Hailo-8 ? Non, pas sur la puissance de calcul en tout cas.

En effet, les 13 et 26 TOPS des Hailo-8 et 8L sont en INT8, là où le Hailo-10H n’est « qu’à 20 TOPS », il se place donc entre les deux. Il prend par contre en charge une précision moins importante en INT4 avec 40 TOPS, ce qui n’est a priori pas le cas des deux autres.

Nouveauté : 8 Go de mémoire intégré

Mais le principal atout du Hailo-10H se cache ailleurs : il dispose de 8 Go de mémoire intégrées, alors que les précédents AI HAT+ utilisaient exclusivement la mémoire du Raspberry Pi. Selon la fondation, cela permet « d'exécuter des LLM jusqu'à environ 6 milliards de paramètres ». Les VLM (Vision-Language Model) sont aussi supportés.

Au lancement, les modèles suivants sont supportés : DeepSeek-R1-Distill, Llama3.2, Qwen2.5-Coder, Qwen2.5-Instruct et Qwen2, avec 1 à 1,5 milliard de paramètres. D’autres suivront, promet le billet de blog.

Niveau performances, ce n’est pas une révolution comme le reconnait Raspberry Pi : « Les performances de vision par ordinateur de l'AI HAT+ 2 sont globalement équivalentes à celles de son prédécesseur de 26 TOPS, grâce à sa mémoire RAM embarquée ». La fondation ajoute ainsi que « la transition vers AI HAT+ 2 se fait de manière transparente et sans heurt ». Une autre manière de le dire serait presque… « sans intérêt » ?

En France, le kit Pi HAT+ 2 est vendu 138,55 euros chez Reichelt et 145,20 euros chez Kubii. Le tarif officiel est de 130 dollars.

« Ce n’est pas aussi impressionnant que ça en a l’air »

Pour de plus amples détails sur les performances de ce nouveau module, vous pouvez consulter le long test de Jeff Geerling. Il a également publié une vidéo.

Conclusion rapide : « En pratique, ce n’est pas aussi impressionnant que ça en a l’air ». En effet, ces tests mettent en face un module Pi AI HAT+ 2 face au SoC du Raspberry Pi avec 8 Go de mémoire pour une configuration « équivalente ». Le SoC dépasse le NPU, mais au prix d’une consommation bien plus importante.

Pour le youtubeur, le principal intérêt du AI HAT+ 2 « est la capacité de fonctionner en mode "mixte", où il peut traiter de la vision artificielle (images d’une caméra ou d’un flux vidéo), tout en faisant de l’inférence (LLM ou synthèse vocale) ». Problème : des bugs ont été rencontrés, à voir s’ils seront rapidement corrigés.

Terminons par la conclusion version longue : « 8 Go de RAM sont utiles, mais ce n’est pas suffisant pour donner un avantage à ce HAT par rapport au fait de payer simplement pour le plus gros Pi de 16 Go avec plus de RAM, qui sera plus flexible et fera tourner les modèles plus rapidement ». Seule exception : si la consommation électrique est un véritable enjeu pour vous.

Commentaires (8)

votre avatar
Salut tout le monde.
Question aux autres lecteurs par curiosité:
Vous utilisez ce hat? Pour faire quoi?
votre avatar
C'est une nouveauté, d'où l'article. Donc personne ne l'utilise.

Maintenant oui ça pourrait être utile de savoir qui utilise les anciens modèles.
Perso j'avais un peu regardé pour la caméra qui permettrait de faire de la détection de forme.
Mais au final j'ai utilisé une caméra IP normale avec un vieux ThinkStation Tiny et Frigate (sans Coral ou autre dedans), c'était suffisant pour une vidéo surveillance provisoire.
votre avatar
Est-ce que des systèmes d'alarmes domestiques actuels utilisent ce genre de procédé (par exemple pour détecter des cambrioleurs) ?
votre avatar
T'as une gamme de caméra Unifi qui sont "IA" genre AI DSLR, ils ont aussi un module IAifier une caméra normale.
Maintenant que je ne sais pas dans quelle mesure le truc derrière peut être connecté ou pas a une alarme.
Mais y a des fonctions de lecture de plaque de voiture etc.

Les autres marques je ne sais pas
votre avatar
Hey, pas mal ! :chinois:
Parce que là, dans ce domaine précis de la télé-surveillance, je vois tout de suite les avantages qu'il y aurait d'équiper non pas une caméra, mais plutôt le système entier d'une capacité de reconnaissance et d'analyse de forme / mouvement / etc...
votre avatar
Plus haut je parle de Frigate, qui tourne sur un PC et qui utilise une clé usb Coral ou autre pour faire de la reconnaissance d'objet basé sur des GPU ou des TPU.

Perso sur mon ThinkStation, j'ai pas ça. C'était juste sur le CPU, mais chaque événement enregistré par la vidéo indiquait via une icône s'il avait vu un humain avec certitude ou pas.
votre avatar
Ah zut, j'ai une mélodie qui me trotte dans la tête maintenant.
RaspWhite neige et les 7 nains : « Haili, hailo, on rentre du boulot... »
votre avatar
Les tests sont réalisés avec des modèles standards? Est-ce que quelqu'un a essayé avec un moteur comme le bitnet de Microsoft (moteur optimisé CPU mais qui nécessite des modèles adaptés)?

Raspberry Pi AI HAT+ 2 : 40 TOPS* et 8 Go de mémoire pour le Raspberry Pi 5

  • Après les Hailo-8(L), la Hailo-10H

  • 2,5 watts et 40 TOPS… en INT4, 20 TOPS en INT8

  • Nouveauté : 8 Go de mémoire intégré

  • « Ce n’est pas aussi impressionnant que ça en a l’air »

Fermer