Les industriels qui développent des systèmes critiques sont pressés de tirer profit des performances de l’IA moderne pour ouvrir la voie à l’introduction de capacités, nouvelles dans leurs systèmes. Mais la seule performance n’est pas suffisante quand on parle de systèmes critiques avec des contraintes de qualification voire de certification. L’IA doit alors posséder des propriétés telles que : robustesse, garanties, explicabilité, … Ils doivent “ouvrir la boîte” et en comprendre le contenu, qualifier leurs systèmes, anticiper la création de normes ou d’exigences de certification. Cette formation présente l’état de l’art sur un domaine en plein essor, mais très récent. Elle fait le lien avec les exigences de qualification et certification des systèmes. Elle fait l’état des limites actuelles et des perspectives de recherche.
Objectifs
À l’issue de la formation, les participants seront capables de :
- Comprendre les enjeux spécifiques de la certification ou de la qualification des systèmes basés sur l’IA
- Connaitre les limites de l’état de l’art actuel en machine learning
- Connaitre les principales initiatives normatives et de recherche en cours sur le sujet
French 
English