Avec plus de 200 chercheurs spécialisés, une formation d’excellence et un vivier de talents, Toulouse s’impose comme l’une des capitales françaises de l’IA. À l’heure où les « boîtes noires » du deep learning soulèvent des questions sur leur opacité – sorte d’espions pour recueillir des informations -, la Ville rose mise sur une IA robuste, explicable et de confiance. Des prérequis indispensables pour l’intégrer dans des systèmes critiques comme les avions ou les voitures.
L’institut interdisciplinaire toulousain Aniti (Artificial and Natural Intelligence Toulouse Institute) place l’IA dite « de confiance » au cœur de ses travaux. L’objectif est de garantir que les décisions prises par les systèmes d’IA soient explicables, équitables, fiables et robustes, pour permettre leur utilisation, notamment dans les secteurs à haut risque tels que le transport, l’industrie du futur et l’environnement.
Comprendre l’algorithme
Le cluster labellisé par l’État, développe une nouvelle génération d’intelligence artificielle hybride, associant des techniques d’apprentissage automatique à partir de données et des modèles permettant d’exprimer des contraintes et d’effectuer des raisonnements logiques. Cette approche permet d’apporter de meilleures garanties en matière de fiabilité et de capacité d’expliquer et d’interpréter les résultats des algorithmes utilisés, tout en veillant à l’acceptabilité sociale et la viabilité économique.
« Certes plus performantes que des algorithmes reposant sur des connaissances humaines, les boîtes noires sont opaques dans le sens où l’humain ne peut pas comprendre le processus de décision de l’algorithme. En y ajoutant de l’IA de confiance, cela amène des garanties de robustesse et de compréhension des biais. Au sein d’Aniti, nous avons mis au point des méthodes qui permettent de savoir à quel point l’algorithme est confiant par rapport à la décision prise et de comprendre comment les prédictions sont réalisées par l’algorithme », explique Romaric Redon, directeur opérationnel d’Aniti.
Des méthodes utilisées dans le transport
L’institut rassemblant 16 laboratoires de recherche, 7 universités et écoles d’ingénieurs et plus de 30 partenaires industriels compte de nombreux succès à son actif en IA de confiance tels que des partenariats stratégiques avec des entreprises ou institutions prestigieuses, des réalisations technologiques de pointe ou encore le développement de dispositifs suffisamment robustes et performants pour être déployés sur des plateformes industrielles.
En collaboration avec des acteurs issus de l’aéronautique, du ferroviaire et de l’automobile comme Airbus, Thales, Liebherr, la SNCF, Alstom, Schaeffler ou encore Renault, Aniti a conçu plusieurs méthodes basées sur l’IA de confiance utilisées dans des systèmes critiques embarqués. « Ces industriels ont besoin de l’IA à bord des appareils, véhicules afin de fournir de l’assistance au conducteur, pilote. Nous avons par exemple apporté des outils de détection de pistes d’atterrissage, d’informations sur la route sur les voitures autonomes et de signalisation ferroviaire. Ce type de systèmes est également utilisé dans l’industrie, dans la chaîne de production lors du contrôle qualité afin de détecter des anomalies de fabrication », illustre celui qui travaille dans le domaine de l’IA depuis 24 ans et a occupé différents postes au sein du groupe Airbus.
Aujourd’hui, les bibliothèques développées par les équipes Aniti sont aux services des industriels qui les utilisent en interne sur différentes applications ou peuvent servir à des programmes dans d’autres secteurs.
Devenir une référence mondiale
En complément à la mobilité et à la robotique/cobotique pour l’industrie du futur, l’établissement étend ses domaines d’application à l’environnement. Aux côtés d’acteurs stratégiques comme Météo France et le CNES, il va utiliser l’IA de confiance dans la prédiction climatique et la gestion des événements extrêmes. « L’idée est d’intégrer des lois de la physique dans l’apprentissage des boîtes noires afin d’apporter un certain niveau de confiance. Ces méthodes par apprentissage sont très efficaces pour réaliser de la prédiction et moins onéreuses en coût de calcul », indique Romaric Redon.
Les méthodes imaginées par Aniti apportent des contributions pour d’autres secteurs, dont la santé. Ainsi, Airbus va mettre à profit son expertise en matière d’intelligence artificielle dans les systèmes critiques pour aider l’Oncopole à mieux prédire les pannes sur les équipements de radiothérapie, sources de stress pour les patients et d’une importante désorganisation dans les services de soins. Dans les années à venir et avec l’appui des partenaires industriels et scientifiques, l’ambition est de renforcer le leadership de la Ville rose et d’en faire une référence mondiale de l’IA de confiance.
