Connexion
Abonnez-vous

Même le Raspberry Pi 5 succombe à l’IA…

Magie, le PCIe 2.0 devient du PCIe 3.0

Même le Raspberry Pi 5 succombe à l’IA…

Flock

Le Computex est le théâtre d’une multitude d’annonces autour de l’IA, aussi bien chez AMD, Intel, Microsoft que NVIDIA. Mais ce ne sont pas les seuls et la Fondation Raspberry Pi ne compte pas rester sur le bord de la route. Elle présente un NPU externe à ajouter à son Raspberry Pi 5 pour 70 dollars.

Le 04 juin à 15h55

13 TOPS pour le Raspberry Pi 5

C’est via un communiqué sur son site que la fondation annonce l’arrivée d’un module AI pour le Raspberry Pi 5. Ce « NPU externe » propose, selon le fabricant, des performances jusqu’à 13 TOPS pour de l’intelligence artificielle. Il est construit à partir de la puce Hailo-8L, dont la fiche technique se trouve par ici.

On est loin des 48 et 50 TOPS des derniers processeurs Intel et AMD. Mais la puce est au niveau des 11,5 TOPS du NPU de Meteor Lake d’Intel, des 16 TOPS des Ryzen 8040 et des 11 TOPS de la puce M1 d’Apple (15,8 TOPS pour M2).

78,60 euros pour le M.2 HAT+ avec la puce Hailo-8L

Le kit comprend donc une carte M.2 HAT+ (avec un connecteur M.2 key M) à installer sur le Raspberry Pi 5, ainsi que la carte M.2 (format 2242) équipée de la puce Hailo-8L.

Le prix annoncé est de 70 dollars et on trouve le kit à 78,60 euros chez Kubii. Chez le même revendeur, le M.2 HAT+ seul est vendu 13,5 euros. Cela donne environ 65 euros pour la carte M.2 avec le NPU si l’on tente de séparer les deux.

Passer son Raspberry Pi 5 en PCIe 3.0… à vos risques et périls ?

Le Raspberry Pi 5 propose pour rappel une ligne PCIe 2.0, tandis que la puce de Hailo utilise jusqu’à deux lignes PCIe 3.0. Soit un rapport de 1 à 4 ? En théorie, oui. En pratique, c'est plus compliqué…

Dans son communiqué, Raspberry Pi indique que son kit AI fonctionne avec une « connexion PCIe 3.0 x1 à 8 Gb/s ». Mais comment donc, alors que les caractéristiques techniques du mini-PC indiquent une seule ligne PCIe 2.0 ?

Comme l’explique Jeff Geerling sur son blog, on peut passer du PCIe 2.0 au 3.0 sur le Raspberry Pi 5 avec une petite modification dans un fichier de configuration. D’ailleurs, cette étape est décrite dans le guide de démarrage du kit AI : « Suivez les instructions pour activer le PCIe Gen 3.0. Cette étape est facultative, mais fortement recommandée pour obtenir les meilleures performances ».

Mais alors pourquoi ne pas livrer directement le Raspberry Pi 5 en PCIe 3.0 ? Sur cette autre page, il est indiqué que « le Raspberry Pi 5 n'est pas certifié » pour les débits du PCIe 3.0 et que les connexions « peuvent être instables ».

Dans tous les cas, le puce Hailo exploitant deux lignes, elle peut se retrouver bridée par l’interface avec le Raspberry Pi, limitée à une seule ligne. De plus, le kit AI utilisant la seule ligne PCIe externe disponible, il ne sera plus possible d’utiliser un SSD M.2 par exemple.

Une intégration logicielle déjà prête

Quoi qu’il en soit, ce kit « vous permet de créer rapidement des applications complexes de vision par IA, fonctionnant en temps réel, avec de faibles latences et besoins en énergie », explique le fabricant. Un atout de taille est d’ailleurs « l’intégration complète avec le sous-système de gestion des images du Raspberry Pi ».

« Les étapes d'installation du logiciel sont très simples : installez quelques paquets via apt, redémarrez », et c’est tout. Vous pouvez alors « essayer certaines démos d'IA en quelques minutes ». Hailo propose aussi de la documentation et des exemples d’applications sur GitHub.

La fondation ajoute que ce kit est compatible avec les caméras officielles, mais aussi avec celles de ces partenaires. Il est également possible d’utiliser le NPU sur des vidéos déjà enregistrées.

Plusieurs vidéos de présentation ont été mises en ligne :

Commentaires (9)

Vous devez être abonné pour pouvoir commenter.

Abonnez-vous
votre avatar
D'un point de vue général, mettre un NPU sur de l'embarqué a dans certains domaines beaucoup plus de sens que dans un PC bureautique...
votre avatar
Si en plus on peut l'utilisé sur d'autre machine :glasses:
votre avatar
Une bonne demo avec Yolo ça impressionne toujours (encore aujourd'hui)
votre avatar
Pourquoi le PCI 3.0 ne serait-il pas instable avec le NPU, s'il peut l'être d'une manière générale ?
votre avatar
Je comprend pas, c'est quoi la différence avec un Google Coral, qui lui n'occupe qu'un port USB ?...
A priori c'est fait pour la même utilisation ?
votre avatar
Le Hailo-8L fait 13TOPs et le coral ne fait que 4TOPs. Le coral est plus fait pour de la détection d'objets. Maintenant tu peux jouer avec du Stable diffusion et au LLM.
votre avatar
Je pense qu'une des plus grosses utilisations, ça sera de remplacer un Google Coral dans une NVR Frigate
votre avatar
Même le Raspberry Pi 5 succombe à l’IA…
Heureusement qu'on parlait de traitement nuancé hier.

Pour ma part je trouve ça intéressant qu'une machine légère et peu gourmande en énergie propose la possibilité de faire tourner du modèle d'IA. Ca fait un kit moins cher que les machines de guerre Nvidia et peut être un terrain de jeu pour initier à l'utilisation de ces outils sans dépendre d'un tiers en ligne. Le Raspberry Pi5 semble pouvoir faire tourner du Stable Diffusion (ça m'a l'air dégueulasse et lent, mais si ce module aide à booster, à voir). Une machine peu onéreuse comme ça pourrait être multipliée pour faire un cluster de workers pour un générateur.

Restera à voir la réalité face aux annonces, comme toujours.

À suivre :)
votre avatar
Alors qu’on attend juste un port usb-c pour avoir une machine au niveau des standards actuels

Même le Raspberry Pi 5 succombe à l’IA…

  • 13 TOPS pour le Raspberry Pi 5

  • 78,60 euros pour le M.2 HAT+ avec la puce Hailo-8L

  • Passer son Raspberry Pi 5 en PCIe 3.0… à vos risques et périls ?

  • Une intégration logicielle déjà prête

Fermer