SKWDRO : une bibliothèque open source dédiée à la robustification de modèles d’apprentissage face à des changements dans la distribution des données
Intervenant :
Franck Iutzeler, Professeur des Universités, IMT, UT3
SKWDRO (https://github.com/iutzeler/skwdro) est une bibliothèque open source dédiée à la robustification de modèles d’apprentissage face à des changements dans la distribution des données. Les modèles robustes généralisent souvent mieux et gardent de bonnes performances quand les données d’entrée diffèrent du jeu d’entraînement. Cette robustification est basée sur une solide théorique mathématique et est rendue tractable par une approche duale et des avancées récentes en régularisation entropique.
La bibliothèque offre deux modes :
(1) utiliser des robustifications de modèles classiques (régression logistique, régression linéaire) avec un interface compatible avec scikit-learn
(2) robustifier des modules pytorch pour une intégration directe dans des réseaux de neurones par exemple.
Dans chacun de ces modes, le modèle obtenu offre un robustesse intéressante et il est possible de mettre en avant les situations les plus difficiles pour le couple (modèle, jeu d’entrainement). Après une première version stable l’année dernière (https://arxiv.org/abs/2410.21231), la bibliothèque connaîtra des améliorations dans les mois prochains.
Au programme de cette Tech’ Session :
1. À quoi sert la bibliothèque ?
Présentation des capacités de skwdro pour l’entrainement de modèles robustes “type sklearn” et du type de robustesse attendue.
2. Comment utiliser et intégrer la biblothèque ?
Explication de l’intégration de skwdro dans des projets torch pour robustifier les modèles avec des exemples simples de régression et de petits réseaux de neurones.
Public cible :
Chercheurs, Data scientists et ingénieurs IA intéressés par la généralisation et la robustesse des modèles face à des changements de distribution.
Cette Tech’ Session vous permettra de découvrir les dernières avancées dans la robustesse en distribution des modèles et de comprendre les possibilités pratiques et les limites de la robustification à l’entrainement.