Embeddability and safety assurance of ML-based systems under certification

À cette fin, quatre défis ont été identifiés. Le premier consiste à renforcer les activités d’entraînement du ML en intégrant dès le début de la conception les contraintes des cibles matérielles et les exigences de vérification. Considérer ces besoins facilite considérablement le déploiement efficace sur les accélérateurs matériels (par exemple, en choisissant une taille de tenseur ou un type de convolution adéquats) et peut réduire le temps de vérification. Le deuxième défi concerne la description appropriée des modèles de ML à des fins d’échange entre les frameworks et pour les interfacer avec les paradigmes de programmation parallèle les plus récents. L’idée est de connecter les technologies de ML avec les paradigmes de programmation critiques pour la sécurité existants tout en préservant la sémantique des modèles de ML. Le troisième défi porte sur la vérification de l’exactitude du système pour s’assurer qu’aucune situation catastrophique ne se produira en raison de mauvaises performances. Cela inclut d’abord l’utilisation intensive de méthodes formelles pour évaluer hors ligne si le système réalise sa fonction prévue. La vérification de modèles de ML de faible dimension a été réalisée approximativement récemment et l’objectif est de s’attaquer à des tâches plus complexes (par exemple, la détection d’objets) avec des modèles plus complexes (par exemple, YoLo). En plus de la vérification hors ligne, une surveillance efficace en temps réel augmente la confiance dans le modèle en garantissant que le système reste dans son domaine de conception opérationnel (ODD). Enfin, le dernier défi porte sur le déploiement prévisible et sûr des modèles de ML sur du matériel complexe. Ces activités de recherche seront soutenues par quatre cas d’utilisation industriels, à savoir ACAS Xu, l’atterrissage basé sur la vision pour les avions, l’atterrissage d’urgence basé sur la vision pour les drones et les systèmes anti-drones. Notez que plusieurs membres du président contribuent activement à l’ensemble de données Landing Approach Runway Detection (LARD)1 utilisé pour le cas d’utilisation de l’atterrissage basé sur la vision et à la conception de systèmes anti-drones.