Biais et intelligence artificielle : une fatalité évitable ?

C’est l’une des principales problématiques à laquelle se confronte l’intelligence artificielle. Les biais de traitement sont une réalité et ont la peau dure pour être éradiqués efficacement. Des solutions peuvent pourtant être mises en place notamment au niveau de la qualification des données, mais pas que… Focus.

Ils défrayent la chronique régulièrement et font le jeu de ses détracteurs. Si l’Homme a été conçu à l’image de Dieu, l’IA est conçue par l’Homme et reflète ainsi ses qualités comme ses défauts. Des défauts nommés biais de traitement qui font souvent la une des médias. Le côté obscur de l’intelligence artificielle comme l’indiquait un article des Échos (1).

Ils se veulent parfois difficile à appréhender. Les exemples sont légion. En 2015, Amazon décide de recruter de nouveaux talents à l’aide d’un algorithme. Résultats ? Sur des centaines de milliers de CV reçus depuis dix ans, l’IA sélectionnait majoritairement des hommes du fait que la plupart des postulants étaient de sexe masculin. Toujours en 2015, une IA de Google confondait deux jeunes afro-américains avec des gorilles (2). En septembre 2016, une autre IA, devenue jury d’un concours de beauté, a éliminé la plupart des candidats noirs.

Ces cas ne font malheureusement pas exception et demandent une attention de tous les instants. Mais avant d’aller plus loin, définissons ce qu’est réellement un biais de traitement.

Le premier se focalise sur les données sur lesquelles se base l’algorithme pour faire son auto-apprentissage. Ainsi, dans le cas d’une IA focalisée sur la reconnaissance de personnes, le principal biais de traitement pourrait être lié à la part d’hommes et de femmes présents dans la base de données, à la couleur et à la morphologie des individus suivants s’ils sont de types européens, asiatiques, africains, etc.

« C’est un exemple caractéristique d’un biais d’échantillonnage. Éviter ce type de biais nécessite de réfléchir au préalable à la création du jeu de données pour équilibrer chaque catégorie.», explique Etienne Balit, responsable scientifique chez Neovision. Et Olivier Lienhard, ingénieur R&D chez Neovision d’ajouter : « plusieurs solutions techniques peuvent être envisagées. Par exemple, l’une des solutions consiste à répartir uniformément le jeu de données en prenant soin d’avoir une part égale de personnes de type asiatique, européen, latin, africain, etc.. Une seconde solution revient à mettre un “poids” différent dans chaque catégorie de manière à rééquilibrer le jeu de données, une catégorie sous-représentée sera alors proposée plusieurs fois à l’algorithme. »

A l’heure actuelle, le deuxième biais relève d’un véritable challenge, car il est directement issu de notre manière de penser, de nos croyances. À l’inverse du biais d’échantillonnage, le jeu de données peut être biaisé avant même son élaboration. En effet, le monde dans lequel nous vivions et la perception que nous en avons peuvent être directement biaisés.

Le dilemme de l’introduction d’une morale et d’une équité de traitement

L’IA devrait, dans l’idéal, être neutre et équitable. Dans les faits, ce n’est pas toujours le cas en raison des biais cités ci-dessus. Cela ne signifie pas pour autant qu’il faille rejeter l’IA, qui a démontré son utilité et continue à se perfectionner.

« Aujourd’hui, l’IA nous force à expliciter nos règles morales pour les intégrer à nos modèles mathématiques », affirme Etienne Balit. Cela pose le problème des valeurs et de leur universalité.

Or, chaque société possède sa propre morale qui évolue au fil du temps. Le concept d’équité, développé par Aristote, distingue à la fois une équité horizontale correspondant à une égalité de traitement des individus indépendamment de leur origine sociale, ethnique, de genre… et l’équité verticale qui précise que les individus qui sont, par essence inégaux, soient traités inégalement. Ce jugement de valeur est particulièrement délicat à implémenter.