Cela faisait bien longtemps que NVIDIA n'avait pas dévoilé de nouvelle plateforme Jetson. Avec l'annonce d'Orin fin 2019 on avait bon espoir que cela finisse par arriver. C'est désormais le cas.

Avant de débarquer dans les cartes graphiques et autres accélérateurs, l'architecture Ampere de NVIDIA avait été présentée dans un SoC pensée pour la plateforme automobile du constructeur : Orin. On savait qu'il finirait par être proposé sous la forme d'un kit de développement Jetson, mais l'annonce tardait à venir.

Orin enfin à la sauce Jetson

Son lancement étant attendu pour début 2022, il n'y avait que deux possibilités pour NVIDIA : l'officialiser au CES de Las Vegas ou dès sa GTC de fin d'année. C'est ce second choix qui a été fait, puisque Jen Hsun Huang vient de présenter AGX Orin qui exploite une architecture ARM Hercules et un GPU de la génération Ampere. 

• GTC 2021 : de Drive Concierge aux AI avatars, NVIDIA fait des dizaines d'annonces
• NVIDIA dévoile son Jetson AGX Orin : Ampere, 12 cœurs ARM Cortex-A78, disponible début 2022
• NVIDIA passe à 400 Gb/s : le switch Quantum-2 est là, les cartes ConnectX-7 début 2022

La carte garde un format compact similaires aux modèles précédents (100 x 87 mm). Elle embarque donc un SoC de la génération Orin avec 12 cœurs Cortex-A78AE (v8.2, 3 Mo L2, 6 Mo L3) à 2 GHz et 32 Go de LPDDR5 (204,8 Go/s).

Le GPU (1 GHz) comporte 2 048 CUDA Cores, 64 Tensor Cores, 2 accélérateurs NVDLA 2.0, 2 PVA 2.0 et promet « des performances en IA de classe serveur » déportée tendance « edge computing » pour un traitement local. Ainsi, on grimpe à 200 TOPS (INT8), exploitable via le Train, Adapt, and Optimize (TAO) Toolkit. C'est six fois plus que la génération Xavier qui se situait entre 30 et 32 TOPS avec 8 cœurs CPU.

Pour rappel, un M1 (Pro/Max) d'Apple, qui vise un marché différent mais fait désormais office de mètre étalon pour les solutions ARM performantes, culmine à 11 TOPS avec son accélérateur accompagnant 4 + 4 à 8 + 2 cœurs CPU.

La fiche technique confirme la présence de 64 Mo d'eMMC 5.1, d'un port réseau 1 Gb/s et quatre à 10 Gb/s. Côté sorties vidéo on a un DP 1.4a (+MST), HDMI 2.1 et un eDP 1.4a. La connectique est complétée par 4 USB 2.0, 4 UART, 3 SPI, 4 I2S, 8 I2C, 2 CAN, DMIC & DSPK et des GPIO (non détaillés). Au total on dispose de 22 lignes PCIe 4.0 réparties en 2 x8 (or 1x8 + 2x4), 1 x4, 2 x1. Mais aussi trois USB 3.2.

Jusqu'à 6 caméras peuvent être gérées (16 canaux virtuels). Les moteurs vidéo peuvent traiter :

• Compression : 2x 4K60 | 4x 4K30 | 8x 1080p60 | 16x 1080p30 (H.265)
• Décompression : 1x 8K30 | 3x 4K60 | 6x 4K30 | 12x 1080p60 | 24x 1080p30 (H.265)

La consommation du Jetson AGX Orin est configurable dans des profils de 15, 30 et 50 watts. Il est doté d'un nouveau boîtier affichant de larges ouvertures pour laisser s'évacuer la chaleur (aux airs de Xbox One X), avec un port USB Type-C et deux type-A en façade, ainsi que les broches GPIO. Sa disponibilité est annoncée au premier trimestre 2022.

Vous devriez pouvoir vous inscrire pour être prévenus de l'ouverture des commandes. NVIDIA indique que ce produit sera notamment exploité dans son Clara HoloScan, exploitable via un SDK dédié, visant le monde médical. Il intègrera également une RTX A6000 et une carte réseau ConnectX 2x 100 Gb/s et sera détaillé dans des sessions techniques.

En route vers JetPack 5.0

On devrait en apprendre plus sur le Jetson AGX Orin d'ici le CES. Pour rappel, c'est conforme à la feuille de route diffusée cet été par NVIDIA qui indiquait que cette nouvelle génération aurait la charge de remplacer presque toute la gamme (débutant à 249 dollars jusqu'à plus de 849 dollars), du TX2 à AGX Xavier en passant par Xavier NX.

Seules exceptions, les Jetson Nano et TX2 NX, plus accessibles, qui devront attendre 2023 et Nano Next pour être renouvelés. Côté logiciel c'est JetPack 5.0 qui prendra le relais, basé sur Ubuntu 20.04. Il abandonnera les modèles antérieurs à Xavier, qui resteront sur la branche 4.x, pour se focaliser sur les derniers modèles et ceux à venir.