Evaluation et suivi des performances de systèmes intégrant des briques logicielles à base d’IA - Contexte et enjeux  

Référence FP21

 

Aujourd’hui, les innovations technologiques intégrant des algorithmiques à base d’IA, notamment dans le domaine de la numérisation des activités, le déploiement de vecteurs de mobilité autonomes, qu’ils soient terrestres ou aériens, ou même l’intégration de robots/ cobots aux activités humaines, ont pour objet de transformer les expériences de la vie pour l’homme, notamment à travers des services de confort, de facilitation, d’assistance plus ou moins automatisée de tâches complexes ou fastidieuses.

Cela mène souvent au remplacement des actions/manœuvres imitables par des algorithmes / machines, au basculement voire à une délégation complète des capacités humaines, dans un contexte d’optimisation des besoins.

Deux axes sont naturellement adressés par ces innovations technologiques. Le premier concerne l’augmentation de la qualité de vie des usagers, notamment à travers la production de bénéfices individuels et sociétaux, tout en respectant des valeurs éthiques, telles que l’équité, le respect de la diversité et la non-discrimination, mais aussi le respect de la vie privée à travers la protection des données personnelles. Le deuxième axe inclut toutes les dimensions de responsabilisation dans le déploiement de ces innovations : la satisfaction d’impératifs de sécurité et de robustesse, la démonstration du niveau de sécurité/ sûreté, les exigences de transparence, de compréhension et d’explicabilité, et plus généralement la prise en compte du facteur humain.

La question du fonctionnement sûr des logiciels est depuis longtemps au cœur des préoccupations industrielles, qu’il s’agisse du transport, des dispositifs de santé, des systèmes industriels… Les approches actuelles d’Ingénierie Système et d’IVVQ (Intégration, Vérification, Validation, Qualification) sont en cours d’adaptation et d’enrichissement pour prendre en compte les spécificités des systèmes intégrant des briques d’IA.

Ce sujet reste ouvert lorsque les systèmes incorporent de l’IA. Que l’on pense à la sûreté d’une prise de décision « autonome » en temps réel comme dans les domaines évoqués ci-dessus, à des domaines ne tolérant pas l’erreur de décision (décisions de sécurité, de justice, diagnostic de santé, etc.) ou à des attentes d’équité de traitement qui exigent la garantie que ceux-ci ne sont pas biaisés, la confiance placée dans les systèmes intégrant de l’IA doit impérativement être démontrée et reconnue, comme ce fut le cas précédemment pour les logiciels déterministes «classiques».

La diffusion de résultats issus de l’intelligence artificielle peut se trouver  freinée dans bien des secteurs industriels aux motifs qu’on ne sait ni les expliquer, ni les garantir.

 

L’objectif de ce projet est de :

• dresser un état de l’art des méthodes de conception, développement et validation de systèmes intégrant des briques logicielles à base d’IA ;
• définir un cadre d’évaluation des performances de tels systèmes notamment en termes de « Safety » et « métriques de couverture » ;
• comparer différentes techniques sur deux cas exemples ;
• identifier les insuffisances et les inconvénients de ces techniques pour définir des pistes d’amélioration ;
• permettre d’attribuer une certaine confiance aux résultats de sortie.

 

VOIR LA FICHE COMPLETE

 

Pour toute information administrative ou technique relative à la souscription où à la conduite d'un projet, adressez-vous au secretariat@imdr.eu  - 01 78 12 30 19