Qui sont les entreprises qui travaillent à rendre l’intelligence artificielle plus éthique ? Sur quoi travaillent-elles, exactement ? L’ingénieur Abhinav Raghunathan a décidé de les recenser pour pouvoir répondre à ces questions.

En 2022, 55 entreprises spécialisées dans des domaines relevant de l’éthique de l’intelligence artificielle (IA) ont levé plus d’un milliard de dollars, le plus souvent en série A. Tel est le constat dressé par l’Ethical AI Database(EAIDB), la base de données de l’intelligence artificielle, un projet porté par l’ingénieur et data scientist Abhinav Raghunathan.

« L’éthique est une question importante, mais elle reste très sous-représentée dans le milieu de l’intelligence artificielle et de l’apprentissage machine ». Tout juste sorti d’un master à l’Université de Pennsylvanie, Abhinav Raghunathan a décidé de s’attaquer au problème en créant, début 2022, un suivi des entreprises spécialisées dans l’une ou l’autre des applications des réflexions éthiques dans le domaine de l’IA. 

• [Interview] Promesses et limites de l’éthique de l’intelligence artificielle

Et le secteur est dynamique : d’une édition à l’autre, Abhinav Raghunathan passe beaucoup de temps à discuter avec des entrepreneurs, des investisseurs, et à découvrir de nouveaux projets. Entre la première édition de son rapport, au deuxième semestre 2022, et celle de janvier 2023, le nombre d’entreprises répertoriées a grimpé de 45 %  pour passer de 148 à 215 entreprises.

Celles-ci sont réparties en cinq grandes catégories qui permettent de couvrir toute la chaîne de création d’un modèle algorithmique – de la sélection et de la préparation des données à la gouvernance et la gestion du risque en passant par les opérations – mais aussi de laisser de l’espace pour les sociétés spécialisées dans un domaine précis.

Sous l’angle de la spécialisation par industrie, Abhinav Raghunathan note que « les fintech et start-ups spécialisées dans les ressources humaines sont les plus avancées ». En termes de technologies, trois types de modèles agrègent actuellement beaucoup d’intérêt :

• l’apprentissage fédéré, une technique consistant à entraîner le modèle sur la machine des usagers, puis à partager l’apprentissage obtenu chez tous les utilisateurs ;
• les IA causales, des machines qui offrent des explications sur les causes et les effets à prévoir d’une action, voire aident à les modifier ;
• et les IA neurosymboliques, des modèles qui mêlent deux technologies préexistantes : les réseaux neuronaux et la représentation symbolique.

Il faut cela dit noter que ces technologies sont encore très jeunes. 

Crédits : Ethical AI Database

La plupart des entreprises recensées dans l’EAIDB sont américaines ou européennes, « parce que le milieu ressemble à celui de l’intelligence artificielle au sens large : ce sont dans ces régions que les activités sont les plus nombreuses ». En Europe, « je n’ai pas de données précises sur l’impact qu’a eu l’annonce d’une future directive sur l’IA sur les activités des entreprises, mais je suis persuadé que cette loi peut avoir un rôle similaire à celui du RGPD », c’est-à-dire qu’elle motive des sociétés à plancher sur des solutions respectueuses des droits fondamentaux. 

Abhinav Raghunathan tient tout de même à préciser qu’il « cherche des initiatives venant du monde entier, qu’il s’intéresse en particulier à ce qu’il se passe en Afrique ou en Amérique latine ». Le but, répète l’ingénieur, est de rendre ce sous-secteur plus visible, aussi bien auprès des investisseurs que des chercheurs ou du grand public, parce que c’est un « grand espace, plein d’idées et d’opportunités ».

• Quels pourraient être les effets de ChatGPT sur l’information ?

C’est un problème de bon sens, selon lui : « la seule raison pour laquelle je peux lancer ma voiture à toute vitesse, c’est parce que je sais qu’elle a des freins. Pour l’intelligence artificielle, ça devrait être pareil. Ces entreprises sont en train d’imaginer des freins, elles méritent plus de visibilité. »