JetPack 6.0 im Fokus: Das neue NVIDIA-Toolkit für KI am Edge

JetPack 6.0 – la boîte à outils NVIDIA pour l’IA à la périphérie

JetPack 6.0 est une plateforme de développement complète pour la série NVIDIA Jetson et constitue la base centrale des applications d’intelligence artificielle dans le domaine Edge. Le kit de développement logiciel (SDK) combine des composants essentiels tels que CUDA, TensorRT, cuDNN et DeepStream pour former une solution complète et performante, idéale pour l’intelligence artificielle embarquée, la robotique et le traitement industriel d’images.

La transition du JetPack 5.x à 6.0 marque une avancée technologique majeure. Avec une nouvelle base système, une meilleure exploitation du matériel et une intégration moderne des conteneurs, JetPack 6.0 améliore à la fois les performances et le confort de développement, permettant ainsi d’explorer de nouvelles possibilités pour des projets d’IA efficaces et évolutifs en périphérie (Edge).

La boîte à outils tout-en-un pour le développement de l’IA sur Jetson

JetPack est une solution complète destinée au développement de l’IA sur les systèmes NVIDIA Jetson. Elle comprend une distribution Linux (auparavant sur Ubuntu 18.04/20.04, et désormais 22.04), CUDA pour le calcul GPU, cuDNN pour le deep learning, TensorRT pour les modèles optimisés pour l’inférence, OpenCV pour le traitement d’images et DeepStream pour l’analyse vidéo. Elle offre aux débutants comme aux professionnels une base puissante pour les projets d’Edge Computing basés sur l’intelliegence artificielle.

Plus de performances, de flexibilité et de pérennité

La version 6.0 marque un changement significatif dans l’architecture technologique :

  • Nouveau système d’exploitation : JetPack 6.0 est basé pour la première fois sur Ubuntu 22.04 LTS, ce qui permet des fonctionnalités de noyau modernes et une meilleure compatibilité logicielle.
  • Mise à niveau du noyau : le noyau Linux 5.15 offre des améliorations en termes de sécurité et de performances.
  • CUDA 12.2 : offre de nouvelles fonctionnalités pour le traitement parallèle et une gestion améliorée de la mémoire.
  • TensorRT 8.6 : offre une prise en charge accélérée de l’inférence pour les modèles d’apprentissage profond actuels, tels que les réseaux basés sur Transformer.
  • La prise en charge des conteneurs est également améliorée : JetPack 6.0 est entièrement conteneurisé, ce qui simplifie considérablement le développement, les tests et le déploiement.

De plus, JetPack 6.0 permet pour la première fois l’utilisation parallèle de plusieurs cartes Jetson avec différentes versions du système d’exploitation, ce qui est extrêmement utile pour les grands projets de développement avec des composants hérités.

JetPack 6.0 déploie ses atouts sur la nouvelle génération Jetson

Toutes les cartes Jetson ne bénéficient pas de cette version. Les cartes plus anciennes, telles que Jetson Nano ou TX2, ne sont plus prises en charge. Il est donc principalement conçu pour la génération actuelle de cartes Orin. Cela permet toutefois d’exploiter pleinement les performances du matériel.

Les premiers benchmarks montrent une amélioration des performances pouvant atteindre 30 % pour les tâches d’inférence IA typiques. Les temps de démarrage, l’efficacité énergétique et la gestion des caméras ont également été optimisés. TensorRT 8.6 offre également des résultats nettement meilleurs avec les modèles Transformer tels que BERT ou YOLOv7.

Les modèles actuellement compatibles sont :

  • Jetson AGX Orin
  • Jetson Orin NX
  • Jetson Orin Nano
  • Jetson Xavier NX (limité, uniquement via des BSP spéciaux)
Jetson AGX Orin: Kompakte Höchstleistung mit bis zu 275 TOPS für anspruchsvolle KI-Anwendungen in Robotik, Industrie und autonomen Systemen.
Jetson AGX Orin : performances compactes maximales avec jusqu’à 275 TOPS pour les applications IA exigeantes dans les domaines de la robotique, de l’industrie et des systèmes autonomes.

Série ReComputer de Seeed : JetPack 6.0 rend l’IA de pointe encore plus performante

La série ReComputer de Seeed Studio est basée sur les cartes Jetson (principalement Orin ou Xavier) et est particulièrement intéressante pour les développeurs, car elle offre des systèmes plug-and-play avec des E/S étendues.

De nombreux modèles ReComputer équipés d’Orin Nano ou d’Orin NX (lien rich text vers les produits) sont compatibles avec JetPack 6.0. La mise à niveau apporte plusieurs avantages :

  • Meilleure intégration des conteneurs pour l’Edge AI
  • Pilotes plus récents pour les capteurs et les périphériques
  • Prise en charge CUDA optimisée pour les applications d’inférence exigeantes

Seeed Studio propose déjà des images compatibles avec JetPack 6.0 pour certains modèles, ou une assistance pour le flashage manuel.

Der reComputer J4011 mit Jetson Orin NX 16 GB ist ein leistungsstarker, intelligenter Edge-Computer, der bis zu 100 TOPS an moderner KI-Leistung an den Rand bringt.
Le reComputer J4012 avec Jetson Orin NX 16 Go est un ordinateur Edge puissant et intelligent fournissant jusqu’à 100 TOPS de puissance IA moderne à la périphérie.

Comment réussir la mise à jour

Le processus de mise à jour peut s’effectuer de deux manières :

  • Via le gestionnaire SDK NVIDIA, qui offre une interface graphique conviviale pour le flashage de l’appareil Jetson via USB. L’appareil est alors réinitialisé.
  • Le flashage manuel avec des outils tels que flash.sh offre plus de contrôle aux utilisateurs avancés, notamment pour les installations sans affichage.

Attention : lors de la mise à jour, le système est réinitialisé. Si aucune sauvegarde n’a été effectuée au préalable, cela signifie que toutes les données seront perdues. Par conséquent, il est fortement recommandé de créer une sauvegarde avant toute mise à jour. Dans de nombreux cas, il est préférable de procéder à une nouvelle installation. En effet, une installation propre est souvent plus fiable qu’une mise à jour directe, car JetPack 6.0 introduit des changements profonds dans la structure du système.

Plus de productivité pour les développeurs grâce à un flux de travail IA optimisé

JetPack 6.0 apporte non seulement des améliorations en termes de système et de performances, mais aussi de réels gains de productivité:

  • Meilleure compatibilité avec les conteneurs de développement : développement dans des environnements isolés et portables.
  • Frameworks Python et IA mis à jour : compatibilité totale avec les nouvelles versions de PyTorch, TensorFlow, ONNX.
  • Prise en charge de DeepStream 6.4 : permet des pipelines IA vidéo complexes prêts à l’emploi.
  • Outils de débogage et de profilage à distance : meilleure expérience utilisateur de développement pour les flux de travail professionnels.

IA en temps réel pour les transports, l’industrie et la médecine

Dans la pratique, JetPack 6.0 montre tout son potentiel dans les applications nécessitant une puissance de calcul élevée :

  • Véhicules autonomes : un traitement des entrées multicapteurs amélioré avec une latence réduite.
  • Villes intelligentes : analyse vidéo en temps réel sur Jetson Orin avec un nombre d’images par seconde nettement plus élevé.
  • Robotique industrielle : contrôle plus réactif grâce à une utilisation optimisée de CUDA.
  • Traitement d’images médicales : amélioration des algorithmes de diagnostic sur des appareils Edge compacts.
Präzise und reaktionsschnelle Steuerung in der industriellen Robotik, dank effizient genutzter CUDA-Rechenleistung.
Contrôle précis et réactif dans la robotique industrielle grâce à une utilisation efficace de la puissance de calcul CUDA.

JetPack 6.0 ouvre la voie à la prochaine génération Jetson

Cette nouvelle version marque une avancée majeure dans le développement de Jetson. Les utilisateurs d’un système basé sur Orin bénéficieront considérablement de cette nouvelle base logicielle. Outre les performances et le confort de développement, la stabilité et la pérennité sont également des arguments clés.

Pour les utilisateurs de cartes plus anciennes, cette évolution signifie toutefois également un certain adieu : JetPack 6.0 marque un engagement clair en faveur de la génération Orin. Les personnes planifiant des projets à long terme devraient passer dès maintenant à cette nouvelle version.

Perspectives : NVIDIA continuera à développer la plateforme Jetson dans le sens de la conteneurisation modulaire, du développement à distance et des pipelines IA automatisés. JetPack 6.0 marque ainsi le premier pas vers une nouvelle ère de développement.

Images : NVIDIA, Seeed, Adobe Stock


Mise à jour – JetPack 6.1 :

Avec JetPack 6.1, NVIDIA offre des performances et une stabilité accrues pour tous les appareils basés sur Jetson Orin.

À noter en particulier :

  • Jusqu’à 40 % de charge CPU en moins pour les applications caméra, grâce à un traitement vidéo optimisé et à des améliorations GStreamer.
  • Nouvelles fonctionnalités de sécurité fTPM – pour une plateforme fiable avec une meilleure protection au niveau matériel.
  • Mode MAXN pour Jetson Orin Nano – pour la première fois, le niveau de performance maximal (15 W) est également disponible pour les projets compacts.
  • Pile CUDA et TensorRT mise à jour – pour des performances d’inférence IA encore plus puissantes et une utilisation plus efficace des unités de calcul.
  • Noms d’interface réseau uniformisés – pour des configurations système plus stables et une meilleure compatibilité des scripts.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *