L’IA embarquée : une révolution en marche

Illustration d'Intelligence Artificielle Embarquée sur un micro-processeur

Illustration d’un composant électronique embarquant de l’IA

Huawei voit l’avenir des smartphones au travers de cette technologie. Apple, Amazon ou Google concentrent leurs efforts dessus. L’industrie du semi-conducteur commence à sortir ses premiers composants électroniques… Une révolution technologique se prépare actuellement et nous pouvons lui donner un nom : l’Intelligence Artificielle embarquée. Les enjeux et défis à relever sont au rendez-vous et s’annoncent nombreux !

Un nouvel Eldorado s’ouvre pour les concepteurs de hardware et les experts en intelligence artificielle (IA) : l’embarqué. Avec l’explosion du secteur de l’IoT – un marché en forte expansion qui devrait atteindre les 50 à 80 milliards d’objets connectés d’ici 2020 selon une étude de Gartner et l’Idate – les acteurs du hardware et les experts logiciels en IA se retrouvent confrontés à des problématiques connexes et tendent donc à se rapprocher.

Nouveau paradigme

Historiquement, les chercheurs en intelligence artificielle se souciaient peu de l’aspect matériel, ils avaient à disposition d’importantes ressources de calcul et de mémoire. Depuis ces dernières années, un changement de paradigme s’opère.

L’IA a énormément progressé, les réseaux de neurones ont prouvé leur efficacité et il devient possible d’obtenir de bonnes performances en optimisant les algorithmes afin qu’ils puissent s’intégrer dans un système embarqué.

Graphique montrant l'évolution du marché mondial des micro-processeurs et la répartition des ventes selon les utilisations

Evolution et répartition du marché mondial des micro-processeurs

Parallèlement, le matériel, le hardware s’est lui aussi perfectionné ou ré-inventé, les microprocesseurs sont devenus plus puissants, les mémoires plus efficaces. Des facteurs qui ouvrent la voie à de nouvelles applications.

Comme en témoigne l’évolution du marché des microprocesseurs (voir le graphique ci-contre). En effet, le marché global a augmenté de 26,5% en 5 ans, ce qui n’est pas vraiment étonnant. Toutefois, la véritable information réside dans la part des ventes de microprocesseurs destinées aux systèmes embarqués. Selon une étude IC Insight reprise par lembarque.com, elles ont progressé de 79.3% représentant 10,4 milliards $ en 2017 (17% des ventes) contre seulement 5.8 milliards $ en 2012 (10%).

Soit une augmentation d’environ 1 milliard de dollars par an. Une hausse qui devrait se poursuivre en 2018, portée par les secteurs de l’automobile, de l’aéronautique, de la défense et l’électronique grand public. Il en va de même pour le mobile, lui aussi concerné par l’IA embarquée. L’intelligence artificielle sera de plus en plus répandue dans les smartphones et les applications mobiles. Nous avons donc deux secteurs en pleine expansion, qui tirent le marché de l’IA embarquée vers le haut. Et il ne paraît pas illusoire de penser que cette croissance puisse connaître une hausse encore plus forte d’ici quelques mois. D’autant plus que des géants tels que Apple, Samsung ou ARM se sont emparés du sujet.

De forts enjeux

L’instant Expert : MobileNets

MobileNets, ou Mobile Networks, est une classe de réseaux de neurones convolutionnels (CNN) efficients dont l’architecture a été spécifiquement conçue pour les applications mobiles et embarquées liées à la vision.

Les MobileNets sont intéressants pour 3 raisons :

  • Légers et petits, donc peu coûteux en mémoire,
  • Extrêmement rapides en termes de calcul,
  • Très bon rapport performances/consommation.

Et puisqu’ils sont largement configurables, ils offrent l’un des meilleurs rapport rapidité/performance.

Comment atteignent-ils ces performances ?

La principale différence avec un CNN classique se situe dans la séparation de la convolution en une convolution « profonde » (depthwise convolution) 3×3 suivie d’une convolution « ponctuelle » (pointwise convolution) de taille 1×1.

Concrétement, il s’agit d’une convolution séparable en profondeur suivie d’une convolution point à point, ce qui divise ainsi le coût en calcul par un facteur sans pertes significatives de performances. C’est pourquoi ces réseaux sont particulièrement adaptés aux contraintes de l’embarqué.

En embarquant l’IA directement sur la cible, les temps de latence sont réduits tout en économisant de l’énergie.

Cela offre aux utilisateurs un système capable de prendre des décisions même en absence de réseau. Et c’est là que réside tout l’enjeu de l’IA embarqué : être en capacité de proposer les bons algorithmes afin d’obtenir le meilleur compromis performance / coût tout en l’adaptant aux besoins des utilisateurs finaux. D’autant plus que ces nouveaux systèmes permettront de conserver en interne certaines données, protégeant ainsi la vie privée des utilisateurs.

Mais où retrouverons nous cette IA ? Et bien, les smartphones seront les premiers à l’embarquer. Nous pouvons annoncer, sans prendre de grands risques, que cette technologie sera présente dans tous les prochains modèles de smartphones haut de gamme. Cela leur permettra de vous proposer des applications intelligentes et ne dépendant pas d’une connexion à un réseau.
Autre secteur “grand public” qui devrait voir arriver l’IA : l’automobile. Avec l’avènement du véhicule autonome, embarquer l’IA s’avère être une condition sine qua none à son développement et son déploiement. En effet, aucune latence n’est acceptable lorsqu’il s’agit de sécurité de la personne. Par exemple, si le véhicule rencontre un obstacle, il doit pouvoir réagir instantanément, et non pas quelques secondes plus tard.

Nous voyons donc pourquoi l’IA embarquée se dresse comme une solution à bien des défis actuels. Toutefois, rendre des algorithmes ou un logiciel embarquable n’est pas une mince affaire.

Des compétences bien particulières

Pour ce faire, une réelle expertise en IA est nécessaire afin de concevoir précisément les algorithmes par rapport à la mémoire et à la puissance de calcul disponible. Le rapport coût et performance est essentiel dans l’IA embarquée. Cette dernière requiert donc une synergie entre le hardware et le software.

Prise de vue infra-rouge montrant la démonstration de détection de personnes en temps réel

Détection de 3 personnes sur une image infrarouge du capteur Ulis 80×80

Un savoir-faire que Neovision maîtrise, comme le prouve sa dernière collaboration avec STMicroelectronics lors du MWC (Mobile World Congress) à Barcelone. En effet, pour cette édition 2018, Neovision accompagnait le géant du semiconducteur. Le but était de réaliser une démonstration de détection de personnes en temps réel via un capteur infrarouge basse consommation de Ulis.

Nombreux étaient les visiteurs assistant à cette démonstration, qui connu un grand succès. Un succès d’autant plus valorisant, puisque mener à bien ce projet constituait un vrai challenge, tant au niveau des délais que de l’optimisation algorithmique. En effet, Neovision a conçu, optimisé et embarqué un réseau de neurones sur le hardware de STMicroelectronics (STM32 accompagné d’un accélérateur CNN). Et c’est bien grâce à de solides compétences internes, alliées à l’étroite collaboration des trois parties, que le projet pu le voir le jour en temps et en heure.

Recent Posts
Comments
  • Thierry Bauchon
    Répondre

    Tout-à-fait d’accord Mathieu : l’IA embarquée va permettre la réalisation d’applications temps réel, rendre les objets autonomes, et permettre de mieux préserver les informations confidentielles en ne les exposant pas dans le cloud.
    L’IA embarquée va offrir des perspectives fantastiques dans tous les domaines, et désormais avec les capacités d’intégration sur silicium offertes par les procédés technologiques actuels, les fabriquants de semiconducteurs, dont STMicroelectronics, sont à même de proposer des processeurs permettant d’embarquer des puissances de calcul très significatives avec des bilans énergétiques très attractifs.
    Les processeurs ne sont cependant qu’une partie de la solution, et il manque à la grande majorité des clients désirant developer une application intelligente une compétence essentielle, qui permet non seulement de définir les algorithmes adéquats, mais aussi de savoir les optimiser en exploitant au mieux les ressources de calculs disponibles : c’est la compétence que propose Neovision, et dont vous et vos collègues avaient fait la preuve en nous aidant à mettre en oeuvre, dans un temps record, une démonstration de Smart Office que nous souhaitions réaliser pour présenter les capacités de notre IP configurable permettant l’implémentation de réseaux de neurones.
    Cette demonstration a effectivement été un succès, en particulier parce qu’elle a démystifié le sujet, montré comment une problématique particulière pouvait trouver une solution accessible !
    Neovision a certainement un role clef à jouer dans le développement de l’écosystème qui va permettre le deploiement de l’utilisation de l’IA embarquée, et ST se félicite de la collaboration engagée à l’occasion de MWC18.
    T. Bauchon – STMicroelectronics Microcontrollers & Digital IC Group – Strategic Planning

Laisser un commentaire

20170607_151554