Dimensionner un GPU pour l'inspection par vision IA : Jetson, RTX ou Xeon-6 bi-GPU ?

Pourquoi "il suffit d'acheter un GPU" ne fonctionne pas

Un système de vision par IA industriel se heurte à trois limites dures : la cadence d'images à la vitesse de la ligne, la taille du modèle (paramètres et résolution de l'image en entrée) et le budget de latence entre la capture par la caméra et la décision de l'actionneur. Choisissez un GPU trop petit et vous perdez des images ; trop grand et vous avez trop dépensé et trop refroidi. Le bon dimensionnement découle de ces trois chiffres et d'un petit calcul de capacité.

Le calcul de capacité en un paragraphe

Pour une caméra unique à F FPS exécutant un modèle dont l'inférence mesurée est de L ms par image sur un GPU cible, l'utilisation du GPU par caméra vaut approximativement F × L / 1000. Une caméra à 30 FPS avec un modèle à 20 ms consomme 60 % d'un flux ; une ligne de 8 caméras à 30 FPS avec le même modèle réclame environ 4,8 flux. Quel que soit votre GPU cible, validez le L réel sur un échantillon avant de vous engager : les chiffres MIPS/TOPS des fournisseurs ne sont pas une latence d'inférence.

Les trois niveaux

Niveau 1 : classe Jetson au plus près de la caméra

Les modules NVIDIA Jetson Orin / NX conviennent à l'inspection avec une seule caméra ou un faible nombre de caméras, lorsque le GPU se trouve au niveau de la caméra ou dans un petit boîtier en ligne. Enveloppe de puissance d'environ 10 à 60 W, sans ventilateur ou avec ventilateur silencieux, déployable en armoire sur rail DIN ou en montage mural. Idéal pour : l'inspection ponctuelle, l'OCR simple, la présence ou absence, la lecture de cadrans. Voir les plateformes NVIDIA Solution d'Avalue, dont les AIB-NIAO-S, AIB-NINX-S et AIB-NW01.

Niveau 2 : RTX Ada dans un Box PC IA

Pour les lignes multi-caméras (4 à 8 caméras), les entrées haute résolution ou les têtes de modèle 3D, un Box PC industriel doté d'un seul GPU RTX Ada dédié (par exemple un RTX 2000E Ada dans un boîtier industriel scellé) constitue le meilleur compromis. Puissance d'environ 70 à 200 W sur le GPU, PCIe Gen4 x16, extensible pour des cartes d'acquisition d'images. Le MAB-T660D se situe dans ce niveau (RTX 2000E Ada, PCIe Gen4 x16). Voir notre article sur les MAB-T690/T660D pour l'architecture complète.

Niveau 3 : serveur Xeon-6 avec GPU double largeur

Pour la vision centralisée à grand nombre de caméras, la reconstruction 3D de grande ampleur, les fermes d'AOI ou l'entraînement et la mise à jour de modèles, un serveur 1U/2U doté d'un ou deux GPU double largeur et de PCIe Gen5 prend le relais. Le portefeuille Edge HPC d'Avalue comprend le système 1U HPS-GNRU1A sur un processeur Intel Xeon 6 unique (jusqu'à 350W de TDP) avec extension GPU FHFL, et le serveur HPS-GNRU4A qui prend en charge quatre GPU double largeur sur PCIe Gen5. Voir notre article sur l'Edge HPC.

Comment choisir

1. Recensez les caméras, leur résolution et leur cadence d'images.
2. Choisissez le modèle candidat (YOLO/Mask-RCNN/transformeur sur mesure) et mesurez la latence d'inférence sur un GPU candidat avec un lot d'images représentatif.
3. Multipliez : demande totale en flux = Σ (F × L / 1000) sur l'ensemble des caméras.
4. Ajoutez environ 30 % de marge pour le prétraitement des images, la dérive et les futures montées de version des modèles.
5. Retenez le plus petit niveau qui couvre la demande et respecte le budget de latence : niveau 1 si le total est < un flux Jetson, niveau 2 pour les lignes multi-caméras sur un seul boîtier, niveau 3 pour les charges centralisées multi-lignes ou d'entraînement.

Pièges à éviter

• Dimensionner sur les TOPS plutôt que sur des FPS mesurés
• Oublier l'alimentation et le refroidissement : un RTX Ada dans un boîtier scellé peut se brider thermiquement en été
• Goulet d'étranglement à GPU unique lorsqu'une carte d'acquisition d'images réclame la bande passante PCIe Gen5 x16
• Aucune voie d'évolution lorsque le modèle est remplacé un an plus tard par un modèle plus volumineux

Le rôle de TSL Automation

TSL Automation fournit les trois niveaux : plateformes AIB de classe Jetson, Box PC équipés de RTX Ada et serveurs GPU Xeon-6. Contactez notre équipe en précisant votre nombre de caméras, votre cadence d'images, votre modèle et votre budget de latence, et nous présélectionnerons le plus petit niveau qui y répond.