13 Avr

L’IA embarquée : une révolution en marche

Huawei voit l’avenir des smartphones au travers de cette technologie. Apple, Amazon ou Google concentrent leurs efforts dessus. L’industrie du semi-conducteur commence à sortir ses premiers composants électroniques… Une révolution technologique se prépare actuellement et nous pouvons lui donner un nom : l’IA embarquée. Les enjeux et défis à relever sont au rendez-vous et s’annoncent nombreux !

Un nouvel Eldorado s’ouvre pour les concepteurs de hardware et les experts en intelligence artificielle (IA) : l’embarqué. Avec l’explosion du secteur de l’IoT – un marché en forte expansion qui devrait atteindre les 50 à 80 milliards d’objets connectés d’ici 2020 selon une étude de Gartner et l’Idate – les acteurs du hardware et les experts logiciels en IA se retrouvent confrontés à des problématiques connexes et tendent donc à se rapprocher.

Illustration d'un composant électronique embarquant de l'IA

Nouveau paradigme

Historiquement, les chercheurs en intelligence artificielle se souciaient peu de l’aspect matériel, ils avaient à disposition d’importantes ressources de calcul et de mémoire. Depuis ces dernières années, un changement de paradigme s’opère.

L’IA a énormément progressé, les réseaux de neurones ont prouvé leur efficacité et il devient possible d’obtenir de bonnes performances en optimisant les algorithmes afin qu’ils puissent s’intégrer dans un système embarqué.

Graphique du marché mondial des micro-processeurs

Parallèlement, le matériel, le hardware s’est lui aussi perfectionné ou ré-inventé, les microprocesseurs sont devenus plus puissants, les mémoires plus efficaces. Des facteurs qui ouvrent la voie à de nouvelles applications.

Comme en témoigne l’évolution du marché des microprocesseurs (voir le graphique ci-contre). En effet, le marché global a augmenté de 26,5% en 5 ans, ce qui n’est pas vraiment étonnant. Toutefois, la véritable information réside dans la part des ventes de microprocesseurs destinées aux systèmes embarqués. Selon une étude IC Insight reprise par lembarque.com, elles ont progressé de 79.3% représentant 10,4 milliards $ en 2017 (17% des ventes) contre seulement 5.8 milliards $ en 2012 (10%).

Soit une augmentation d’environ 1 milliard de dollars par an. Une hausse qui devrait se poursuivre en 2018, portée par les secteurs de l’automobile, de l’aéronautique, de la défense et l’électronique grand public. Il en va de même pour le mobile, lui aussi concerné par l’IA embarquée. L’intelligence artificielle sera de plus en plus répandue dans les smartphones et les applications mobiles. Nous avons donc deux secteurs en pleine expansion, qui tirent le marché de l’IA embarquée vers le haut. Et il ne paraît pas illusoire de penser que cette croissance puisse connaître une hausse encore plus forte d’ici quelques mois. D’autant plus que des géants tels que Apple, Samsung ou ARM se sont emparés du sujet.

De forts enjeux

En embarquant l’IA directement sur la cible, les temps de latence sont réduits tout en économisant de l’énergie.

Cela offre aux utilisateurs un système capable de prendre des décisions même en absence de réseau. Et c’est là que réside tout l’enjeu de l’IA embarqué : être en capacité de proposer les bons algorithmes afin d’obtenir le meilleur compromis performance / coût tout en l’adaptant aux besoins des utilisateurs finaux. D’autant plus que ces nouveaux systèmes permettront de conserver en interne certaines données, protégeant ainsi la vie privée des utilisateurs.

Mais où retrouverons nous cette IA ? Et bien, les smartphones seront les premiers à l’embarquer. Nous pouvons annoncer, sans prendre de grands risques, que cette technologie sera présente dans tous les prochains modèles de smartphones haut de gamme. Cela leur permettra de vous proposer des applications intelligentes et ne dépendant pas d’une connexion à un réseau.
Autre secteur “grand public” qui devrait voir arriver l’IA : l’automobile. Avec l’avènement du véhicule autonome, embarquer l’IA s’avère être une condition sine qua non à son développement et son déploiement. En effet, aucune latence n’est acceptable lorsqu’il s’agit de sécurité de la personne. Par exemple, si le véhicule rencontre un obstacle, il doit pouvoir réagir instantanément, et non pas quelques secondes plus tard.

Nous voyons donc pourquoi l’IA embarquée se dresse comme une solution à bien des défis actuels. Toutefois, rendre des algorithmes ou un logiciel embarquable n’est pas une mince affaire.

L’instant Expert : MobileNets

MobileNets, ou Mobile Networks, est une classe de réseaux de neurones convolutionnels (CNN) efficients dont l’architecture a été spécifiquement conçue pour les applications mobiles et embarquées liées à la vision.

Les MobileNets sont intéressants pour 3 raisons :

Légers et petits, donc peu coûteux en mémoire,
Extrêmement rapides en termes de calcul,
Très bon rapport performances/consommation.

Et puisqu’ils sont largement configurables, ils offrent l’un des meilleurs rapport rapidité/performance.

Comment atteignent-ils ces performances ?

La principale différence avec un CNN classique se situe dans la séparation de la convolution en une convolution « profonde » (depthwise convolution) 3×3 suivie d’une convolution « ponctuelle » (pointwise convolution) de taille 1×1.

Concrétement, il s’agit d’une convolution séparable en profondeur suivie d’une convolution point à point, ce qui divise ainsi le coût en calcul par un facteur sans pertes significatives de performances. C’est pourquoi ces réseaux sont particulièrement adaptés aux contraintes de l’embarqué.

Des compétences bien particulières

Pour ce faire, une réelle expertise en IA est nécessaire afin de concevoir précisément les algorithmes par rapport à la mémoire et à la puissance de calcul disponible. Le rapport coût et performance est essentiel dans l’IA embarquée. Cette dernière requiert donc une synergie entre le hardware et le software.

Détection automatique de personnes en temps réel

Un savoir-faire que Neovision maîtrise, comme le prouve sa dernière collaboration avec STMicroelectronics lors du MWC (Mobile World Congress) à Barcelone. En effet, pour cette édition 2018, Neovision accompagnait le géant du semiconducteur. Le but était de réaliser une démonstration de détection de personnes en temps réel via un capteur infrarouge basse consommation de Ulis.

Nombreux étaient les visiteurs assistant à cette démonstration, qui connu un grand succès. Un succès d’autant plus valorisant, puisque mener à bien ce projet constituait un vrai challenge, tant au niveau des délais que de l’optimisation algorithmique. En effet, Neovision a conçu, optimisé et embarqué un réseau de neurones sur le hardware de STMicroelectronics (STM32 accompagné d’un accélérateur CNN). Et c’est bien grâce à de solides compétences internes, alliées à l’étroite collaboration des trois parties, que le projet pu le voir le jour en temps et en heure.