Decomon : Un outil de vérification open source pour la robustesse des réseaux de neurones
Intervenante :
Mélanie Ducoffe, Senior Data Scientist en IA, Airbus
Decomon est une librairie open source dédiée à la vérification de la stabilité locale des réseaux de neurones développés. Utilisant des techniques avancées telles que l’analyse de perturbation linéaire (LiRPA), Decomon permet de dériver automatiquement des bornes supérieures et inférieures pour les prédictions d’un réseau de neurones avec des entrées perturbées. Ces bornes sont calculées à l’aide de relaxations linéaires.
Cette approche permet non seulement d’assurer la robustesse des réseaux contre des perturbations mais également d’optimiser les paramètres du réseau pour satisfaire des exigences de robustesse (certified defense).
Au programme de cette Tech’ Session :
1. À quoi sert la librairie Decomon ?
Présentation des capacités de Decomon pour vérifier la robustesse des réseaux de neurones.
2. Comment utiliser et intégrer la librairie ?
Explication de l’intégration de Decomon dans des projets Keras pour analyser et valider la robustesse des modèles.
Public cible :
Data scientists et ingénieurs IA intéressés par l’analyse de robustesse des réseaux de neurones et l’amélioration de la sécurité des modèles.
Cette Tech’ Session vous permettra de découvrir les dernières avancées dans la vérification de la robustesse des modèles et de vous mettre à jour sur un outil indispensable dans de nombreux domaines d’application allant du surrogate model à la détection d’objets.
French 
English