GPU dimensioneren voor industriële AI-visie-inspectie: Jetson, RTX of Xeon-6 met dubbele GPU?

Waarom "gewoon een GPU kopen" niet werkt

Een industrieel AI-visiesysteem heeft drie harde grenzen: framerate op de lijnsnelheid, modelgrootte (parameters + resolutie van de beeldinvoer) en latentiebudget van camerabeeldopname tot actuatorbeslissing. Kies een te kleine GPU en u verliest frames; kies te groot en u heeft te veel uitgegeven en te veel gekoeld. De juiste dimensionering komt voort uit die drie getallen en een beetje capaciteitsrekenwerk.

Capaciteitsrekenwerk in één alinea

Voor een enkele camera op F FPS met een model dat gemeten L ms inferentie per beeld heeft op een doel-GPU, is het GPU-gebruik per camera ongeveer F × L / 1000. Een camera van 30 FPS met een model van 20 ms gebruikt 60% van één stream; een lijn met 8 camera's op 30 FPS met hetzelfde model heeft ongeveer 4,8 streams nodig. Wat uw doel-GPU ook is, valideer de werkelijke L op een voorbeeld voordat u zich vastlegt: de MIPS/TOPS-cijfers van de leverancier zijn geen inferentielatentie.

De drie niveaus

Tier 1: Jetson-klasse bij de camera

NVIDIA Jetson Orin/NX-modules zijn geschikt voor inspecties met één of weinig camera's, waarbij de GPU zich bij de camera of in een kleine inline box bevindt. Vermogensbereik circa 10 tot 60 W, ventilatorloos of met stille ventilator, inzetbaar in DIN-rail- of wandmontagekasten. Het beste voor: steekproefinspectie, eenvoudige OCR, aanwezigheid/afwezigheid, meterstanden aflezen. Zie de NVIDIA Solution-platforms van Avalue, waaronder AIB-NIAO-S, AIB-NINX-S en AIB-NW01.

Tier 2: RTX Ada in een AI box-pc

Voor lijnen met meerdere camera's (4 tot 8 camera's), invoer met hoge resolutie, of 3D-modelkoppen, is een industriële box-pc met één discrete RTX Ada (bijvoorbeeld een RTX 2000E Ada in een verzegelde industriële behuizing) de ideale keuze. Vermogen circa 70 tot 200 W op de GPU, PCIe Gen4 x16, uitbreidbaar voor framegrabbers. De MAB-T660D valt in dit niveau (RTX 2000E Ada, PCIe Gen4 x16). Zie onze MAB-T690/T660D-toelichting voor de volledige architectuur.

Tier 3: Xeon-6-server met dual-width GPU's

Voor gecentraliseerde visie met veel camera's, grootschalige 3D-reconstructie, AOI-farms of het trainen/vernieuwen van modellen, neemt een 1U/2U-server met één of twee dual-width GPU's en PCIe Gen5 het over. Het Edge HPC-portfolio van Avalue omvat de HPS-GNRU1A, een 1U-systeem op één Intel Xeon 6-processor (tot 350 W TDP) met FHFL GPU-uitbreiding, en de HPS-GNRU4A-server die vier dual-width GPU's ondersteunt via PCIe Gen5. Zie onze Edge HPC-toelichting.

Hoe u kiest

1. Maak een lijst van de camera's, hun resolutie en framerate.
2. Kies het kandidaat-model (YOLO/Mask-RCNN/aangepaste transformer) en meet de inferentielatentie op een kandidaat-GPU met een representatieve beeldbatch.
3. Vermenigvuldig: totale streambehoefte = Σ (F × L / 1000) over alle camera's.
4. Voeg circa 30% marge toe voor beeldvoorbewerking, drift en toekomstige modelupgrades.
5. Kies het kleinste niveau dat aan de vraag voldoet en binnen het latentiebudget blijft: Tier 1 als totaal < één Jetson-stream, Tier 2 voor lijnen met meerdere camera's in één box, Tier 3 voor gecentraliseerde multi-lijn- of trainingsworkloads.

Valkuilen om te vermijden

• Dimensioneren op TOPS in plaats van gemeten FPS
• Vermogen en koeling vergeten: een RTX Ada in een verzegelde behuizing kan in de zomer thermisch terugschakelen
• GPU-bottleneck bij één GPU wanneer een framegrabber PCIe Gen5 x16-bandbreedte nodig heeft
• Geen upgradepad wanneer het model een jaar later wordt vervangen door een groter model

Waar TSL Automation past

TSL Automation levert alle drie de niveaus: Jetson-klasse AIB-platforms, box-pc's met RTX Ada en Xeon-6 GPU-servers. Neem contact op met ons team met uw aantal camera's, framerate, model en latentiebudget, en wij selecteren het kleinste niveau dat hieraan voldoet.