Qu'est-ce que l'IA embarquée et l'edge AI ?
Auteur
Débora
Publié le
L'IA embarquée désigne une solution d'intelligence artificielle qui fonctionne entièrement sur l'appareil qui l'héberge et l’exploite : une caméra, un capteur, une machine, un véhicule. Aucun serveur distant, aucun échange de données avec un autre matériel distant. Définition, matériels concernés, cas d'usage, exigences de développement et différence avec l'Edge AI : voici l'essentiel pour comprendre cette technologie et savoir quand y recourir.
Définition de l'IA embarquée - une IA qui fonctionne directement dans vos équipements
L'IA embarquée est une intelligence artificielle intégrée directement dans un équipement : une caméra d'inspection, une machine, un capteur, un robot, un véhicule. L'équipement analyse lui-même ce qu'il capte et décide seul, sans connexion à un serveur ni à aucun autre matériel.
Pour une entreprise, cela change trois choses : l'équipement fonctionne même sans réseau, il réagit immédiatement, et ses données restent sur place.
IA cloud et IA embarquée : où se fait le calcul ?
La plupart des solutions d'IA sur étagère fonctionnent dans le cloud. Les données (une image, une mesure, un document) partent par Internet vers un centre de données, où des serveurs puissants les analysent avant de renvoyer le résultat. L'équipement sur le terrain se contente de transmettre et de recevoir.
L'IA embarquée place le modèle d'IA dans l'équipement lui-même. Celui-ci ne fait appel à aucun autre matériel : ni serveur distant, ni même un ordinateur installé à trois mètres dans le même atelier. Le résultat de l'analyse reste lui aussi sur place et sert directement à agir.
Sur une ligne de production, par exemple, une caméra d'inspection équipée d'IA embarquée repère une pièce défectueuse et déclenche elle-même son éjection, sans attendre la réponse d'un serveur.
Lieu du calcul
Un centre de données distant pour l'IA cloud, l'équipement lui-même pour l'IA embarquée.
Connexion internet
Indispensable pour l'IA cloud, inutile pour l'IA embarquée.
Données
Elles voyagent sur le réseau avec l'IA cloud et ne quittent pas l'équipement avec l'IA embarquée.
Puissance de calcul
Très élevée dans le cloud, limitée à celle de l'équipement en embarqué.
À quoi sert l'IA embarquée ? Situations et grands cas d'usage
L'IA embarquée devient pertinente dès que le recours au cloud pose un problème de connexion, de latence, de confidentialité, de volume de données ou d'énergie. Dans la plupart des projets, plusieurs de ces contraintes se cumulent.
Cinq situations où l'IA embarquée s'impose
- Pas de connexion fiable.
Sites isolés, zones blanches, sous-sols, environnement maritime ou aérien, équipements mobiles : l'appareil doit fonctionner quelle que soit la couverture réseau. - Un temps de réponse critique.
Quand une décision doit tomber en quelques millisecondes (tri d'objets sur un convoyeur rapide, évitement d'un obstacle, etc.), un aller-retour sur le réseau représente un risque. - Des données qui ne doivent pas être exposées.
Images de personnes, données médicales, savoir-faire de fabrication : le traitement sur l'appareil limite l'exposition des données, permet d'assurer la confidentialité et simplifie la conformité au RGPD. - Un volume de données trop important à transmettre.
Une caméra qui filme en continu produit un flux coûteux à envoyer en permanence. L'appareil analyse les images sur place et ne conserve que l'information utile. - Une autonomie énergétique à préserver.
Sur un capteur alimenté par batterie, la transmission réseau compte parmi les postes les plus consommateurs. Analyser localement et n'émettre qu'en cas d'anomalie prolonge la durée de vie de la batterie.
Les grands domaines d'application
- Industrie : contrôle qualité visuel sur ligne, maintenance prédictive par analyse des vibrations, sécurité des opérateurs autour des machines.
- Mobilité et robotique : aide à la conduite, drones, robots mobiles autonomes.
- Santé : dispositifs médicaux portables qui analysent un signal physiologique sans le transmettre.
- Agriculture : Une machine de désherbage ciblé analyse en continu les images du champ pour distinguer la culture des mauvaises herbes. Ce flux vidéo serait trop lourd à transmettre, souvent depuis des parcelles mal couvertes par le réseau.
Le point commun de ces usages : l'appareil décide seul, au plus près de la donnée.
Sur quel matériel peut-on faire tourner une IA embarquée ?
L'IA embarquée fonctionne sur tout appareil dont le processeur et la mémoire peuvent exécuter un modèle, du capteur alimenté par une batterie jusqu'au robot autonome. Le choix du matériel dépend de trois contraintes : la puissance de calcul, la mémoire disponible et l'énergie consommée.
Trois grandes familles de matériel
- Les microcontrôleurs. Ce sont de petites puces très économes, présentes dans l'électroménager, les capteurs industriels ou les objets connectés. Leur mémoire vive se compte souvent en centaines de kilo-octets : moins que le poids d'une seule photo prise avec un smartphone. Ils exécutent des modèles très légers (TinyLM), comme la reconnaissance d'un mot-clé vocal ou la détection d'une vibration anormale.
- Les processeurs embarqués avec accélérateur d'IA. Les puces des smartphones, des caméras intelligentes ou de nombreux boîtiers industriels intègrent un circuit dédié aux calculs d'IA, le NPU (Neural Processing Unit). Ils traitent de l'image ou de la vidéo en temps réel.
- Les modules de calcul haute performance. Ces cartes compactes embarquent un GPU et équipent les robots, les drones ou les véhicules. Elles exécutent des modèles plus lourds, ou plusieurs modèles en parallèle sur plusieurs caméras.
Pour les profils techniques :
Du microcontrôleur ESP32 à quelques euros jusqu'aux FPGA d'AMD, en passant par les accélérateurs Hailo ou les modules NVIDIA Jetson, le choix de la cible peut dépendre de plusieurs facteurs, comme le matériel déjà en place, le coût unitaire, l'encombrement, la consommation ou le temps de réponse attendu.
Code embarqué : convertir un modèle d'IA pour qu'il tourne sur l'appareil
Un modèle d'IA est généralement conçu et entraîné sur des serveurs très puissants. Pour fonctionner dans un équipement, il doit être adapté : allégé, traduit dans le langage de la puce qui l'accueillera, puis testé sur le matériel final. C'est ce travail d'adaptation qui produit le code embarqué.
La difficulté tient à l'écart entre les deux mondes. Un serveur dispose d'une mémoire et d'une énergie abondantes ; une puce embarquée en a parfois des milliers de fois moins. Chaque famille de puces a en outre ses propres outils et ses propres règles : un même modèle s'adapte différemment selon l'équipement qui le reçoit.
Les étapes pour obtenir un code embarqué fiable
- Définir les contraintes de l'équipement : mémoire disponible, rapidité de réponse attendue, consommation électrique, niveau de fiabilité exigé.
- Choisir un modèle adapté : certains modèles d'IA sont conçus dès le départ pour fonctionner sur de petits appareils.
- Alléger le modèle : réduire sa taille et la précision de ses calculs, en restant dans une marge d'erreur acceptable.
- Le traduire pour la puce visée : utiliser les outils du fabricant pour produire un programme que l'équipement sait exécuter.
- L'intégrer à l'équipement : le relier aux capteurs et aux mécanismes qu'il pilote, en préparant les données exactement comme pendant l'entraînement.
- Le valider sur le matériel réel : vérifier qu'il donne les mêmes résultats que le modèle d'origine, mesurer sa rapidité et sa consommation, le tester dans les conditions du terrain.
- Prévoir les mises à jour : organiser la façon de faire évoluer le modèle une fois l'équipement déployé.
Nos points d'attention
Ce qui peut mal tourner sans compétence IA
Un modèle incompatible avec le matériel
C'est souvent la difficulté principale, surtout sur des puces peu courantes. Un modèle d'IA enchaîne des opérations de calcul, organisées en couches, et chaque puce ne sait en exécuter qu'une partie. L'ingénieur doit donc choisir un modèle dont l'architecture est compatible avec le matériel visé, puis convertir les couches incompatibles quand c'est possible. Sans ce travail, le modèle ne fonctionne pas sur l'équipement, ou fonctionne mal.
Un fonctionnement validé en laboratoire seulement
Poussière, vibrations, variations de lumière ou de température changent la donne sur le terrain. Le modèle peut aussi se retrouver figé, difficilement maintenable dans le temps. Sans moyen de mise à jour, l'équipement ne suit plus l'évolution des produits ou des usages.
Des données mal préparées
Si les images ou les mesures ne sont pas présentées à l'IA exactement comme pendant son apprentissage, ses résultats se dégradent, sans aucun message d'erreur.
Une IA trop lente
Une partie des calculs s'exécute hors du circuit prévu pour l'IA, et le temps de réponse devient incompatible avec l'usage. De plus, un manque de mémoire provoque des plantages ou des redémarrages, difficiles à diagnostiquer une fois l'équipement en service.
Familles de puces, outils propres à chaque fabricant, techniques d'allègement : les options sont très nombreuses, et chaque choix conditionne les suivants. Une solution qui fonctionne en démonstration peut se révéler inadaptée une fois l'équipement en production. Un spécialiste qui connaît ces options et leurs limites est indispensable pour retenir les bonnes, puis les mettre en œuvre correctement. Sans cette expertise, plusieurs écueils guettent...
Ces défaillances ont un point commun : elles ne déclenchent aucune alerte. L'équipement continue de fonctionner, avec une fiabilité moindre. Ce travail relève donc d'ingénieurs qui maîtrisent à la fois l'IA et les contraintes du matériel.
IA embarquée ou Edge AI : quelle différence ?
L'Edge AI, ou IA en périphérie, désigne une IA exécutée à proximité de la source des données, sur un équipement local distinct du capteur : un ordinateur industriel, une passerelle, un serveur installé sur site.
Dès que la donnée quitte l'appareil qui la capte pour être traitée ailleurs, même à trois mètres, on parle d'edge. Dix caméras reliées à un PC industriel équipé d'un GPU dans l'atelier : c'est de l'edge. Une caméra qui analyse "elle-même" ses images : c'est de l'embarqué.
L'IA embarquée en constitue le cas le plus abouti, puisque le calcul a lieu dans l'appareil même qui capte la donnée. Le terme « Edge AI » est toutefois souvent employé au sens large, IA embarquée comprise.
Dans quels cas l'edge est-il intéressant ?
- Plusieurs sources à analyser ensemble : corréler les images de plusieurs caméras ou les mesures de plusieurs capteurs.
- Un modèle trop lourd pour le capteur : l'équipement local apporte une puissance de calcul que l'appareil ne peut pas embarquer.
- Une puissance de calcul mutualisée : au lieu d'équiper chacune des vingt caméras d'un atelier de sa propre puce d'IA, un seul serveur analyse les vingt flux. Il y a moins de matériel à acheter.
- Des mises à jour centralisées : le modèle se met à jour en un point, sans intervenir sur chaque appareil.
- Des données qui restent sur site : l'edge conserve les avantages de souveraineté et de faible latence face au cloud, sans dépendre d'Internet.
En contrepartie, le système dépend du réseau local, et l'équipement central devient un point de défaillance unique à sécuriser.
Vous avez des besoins en IA embarquée ?
Découvrez comment Neovision peut vous accompagner
Du GWh des modèles génératifs aux µWh de l'IA embarquée, découvrez le vrai coût énergétique de l'IA et comment Neovision liquide ce paradoxe.
Que sont les World Models ? Fin 2025, Yann LeCun, figure de l'IA moderne, annonce quitter Meta pour travailler sur les World Models.
Les données, atout stratégique sous-coté et parfois même insoupçonné pour tous ceux qui souhaitent tirer parti de l'IA dans leur business.