IA embarquée ou IA cloud dans l'industrie : latence, bande passante et coûts réels

Quelle est la vraie différence entre l'IA embarquée (edge AI) et l'IA dans le cloud ?

L'endroit où s'exécute l'inférence. L'IA embarquée (edge AI) exécute le modèle sur du matériel situé sur la machine ou à proximité : un Box PC dans l'armoire, un Panel PC sur la ligne. L'IA dans le cloud envoie les données vers un centre de données distant et renvoie la réponse. Le secteur vote avec son budget : IDC évalue les dépenses mondiales en edge computing à près de 261 milliards de dollars en 2025, avec un cap sur 380 milliards de dollars d'ici 2028, les charges de travail IA figurant parmi les moteurs les plus dynamiques (IDC, mars 2025).

Aucun des deux camps ne l'emporte sur tout. La décision se résume à trois éléments mesurables : la latence, la bande passante et ce que vous coûtent une réponse erronée ou une liaison interrompue.

À quelle distance se trouve réellement le cloud ?

Microsoft publie les temps d'aller-retour mesurés entre ses régions, et la géographie est sans détour. Depuis Central India, un aller-retour vers South India prend environ 20 ms et vers Jio India West environ 29 ms, mais West Europe se situe à environ 140 ms et East US à environ 198 ms (statistiques de latence réseau Azure, 2026). Et il s'agit de centre de données à centre de données sur le réseau fédérateur de Microsoft, avant d'ajouter la liaison du dernier kilomètre de votre usine, la surcharge du VPN et le temps d'attente en file d'inférence.

Un contrôle par vision qui commande un bras d'éjection à 60 pièces par minute dispose d'une fenêtre de décision d'une seconde ; en consacrer 200 ms à un aller-retour réseau, le double avec le traitement, reste jouable jusqu'à ce que la liaison présente de la gigue. Un verrouillage de sécurité ou une boucle de régulation fermée ne peut pas en dépendre du tout. L'inférence sur l'appareil supprime entièrement cette variable : la réponse est calculée à quelques centimètres de la caméra.

Les enjeux d'une mauvaise décision sont bien documentés. L'étude True Cost of Downtime de Siemens chiffre les arrêts non planifiés à 1 400 milliards de dollars par an pour les 500 plus grandes entreprises mondiales, soit environ 11 % de leur chiffre d'affaires, une ligne automobile à l'arrêt coûtant jusqu'à 2,3 millions de dollars par heure (Siemens/Senseye, 2024). L'enquête 2024 d'ITIC établit qu'une seule heure coûte plus de 300 000 dollars pour plus de 90 % des moyennes et grandes entreprises (ITIC, 2024). Une architecture d'IA qui cesse de fonctionner en même temps que le WAN est un risque d'arrêt que vous avez choisi.

Combien coûte réellement la diffusion de vidéo vers le cloud ?

Faites le calcul sur une ligne modeste. Prenez dix caméras d'inspection, chacune diffusant du H.264 à 4 Mbps par hypothèse, un réglage courant pour de la vidéo industrielle en 1080p. Cela représente 40 Mbps en continu, soit environ 13 TB par mois. La sortie de données depuis les régions Asie sur Azure est facturée 0,12 dollar par GB au-delà des 100 premiers GB gratuits (tarification de la bande passante Azure), et le sens montant exige une liaison professionnelle symétrique dimensionnée pour le pic, et non pour la moyenne.

La compression aide mais ne change pas la nature du problème : Axis mesure pour son codec Zipstream une économie moyenne de 50 % ou plus par rapport au H.264 standard (livre blanc Axis), ce qui laisse tout de même circuler des téraoctets chaque mois, indéfiniment. L'inférence en périphérie inverse le flux : la vidéo reste sur le réseau de l'usine, et seuls les résultats, un verdict conforme ou non conforme, une vignette de défaut, un comptage, remontent, pour quelques kilo-octets.

Qu'en est-il de la confidentialité des données et de la disponibilité ?

Pour de nombreux industriels indiens, le facteur décisif n'est pas le coût mais le contrôle. La vidéo de production peut révéler des procédés propriétaires, des pièces clients et des personnes ; la conserver sur site simplifie à la fois les discussions de confidentialité et de conformité. Et un système edge continue d'inspecter pendant une panne de fournisseur d'accès, un incident de région cloud ou une fenêtre de maintenance ; les résultats se synchronisent au retour de la liaison. La ligne n'attend pas Internet.

Quand l'IA dans le cloud l'emporte-t-elle encore ?

Dans trois cas, et prétendre le contraire serait malhonnête. L'entraînement : construire ou affiner des modèles demande une puissance GPU qu'une usine possède rarement ; louez-la dans le cloud, puis déployez le modèle entraîné en périphérie. L'analyse de parc : agréger les résultats de plusieurs lignes ou sites pour des tableaux de bord et des tendances de long terme est un travail naturellement cloud, le volume de données étant minime puisque la périphérie l'a déjà réduit. Les travaux hors temps réel : les passages d'audit mensuels ou le traitement de documents par lots n'ont aucun enjeu de latence. Le schéma gagnant en pratique est hybride : entraîner dans le cloud, inférer en périphérie, agréger dans le cloud.

Comment déployer l'IA embarquée sur le terrain ?

Le matériel est aujourd'hui la partie facile. Des systèmes compacts sans ventilateur comme l'Avalue EMS-ARH associent des processeurs Intel Core Ultra à un NPU intégré pour une inférence vision continue, l'ACP-3588 place un NPU de 6 TOPS sur une carte ARM sans ventilateur pour les déploiements sensibles au coût, et les stations de travail à emplacements PCIe accueillent des GPU dédiés lorsqu'un seul système doit surveiller des dizaines de flux. Quelle classe convient à votre charge de travail, c'est précisément ce que détaille notre guide d'achat des serveurs edge IA, et si vous souhaitez la comparaison au niveau du silicium, consultez notre guide NPU, GPU ou CPU pour l'inférence en périphérie. Parlons ensemble du dimensionnement d'une ligne pilote : c'est un projet plus modeste que ne l'imaginent la plupart des équipes.