Optimization and Code Verification for Embed ded Systems Based on Intelligent Controllers

Abstract

a complexité des systèmes autonomes présente des défis importants pour leur spécifi cation et leur vérification formelles, en particulier lorsqu’il s’agit d’intégrer des contrôleurs d’IA basés sur des réseaux neuronaux quantifiés (RNQs). Ces réseaux utilisent l’arith métique en virgule fixe pour s’adapter aux capacités de calcul limitées des systèmes embarqués. L’arithmétique en virgule fixe permet de représenter les poids, les activations et les gradients à l’aide d’entiers de faible poids, ce qui permet un calcul efficace avec une précision déterministe. Toutefois, cette quantification introduit des erreurs numériques dues à la troncature et à l’arrondi, qui peuvent se propager dans le réseau et influer sur la prise de décision. Par conséquent, la vérification des RQNs, qu’ils soient modélisés avec des entiers ou des vecteurs de bits, s’est avérée PSPACE-complet. Dans cette thèse, nous présentons trois contributions majeures pour la spécification et la vérification formelles des contrôleurs intelligents basés sur des RNQs, appliqués aux domaines des véhicules autonomes (VAs) et de l’avionique. Premièrement, nous proposons un processus de spécification formelle des exigences des VAs, transformant pas à pas des exigences textuelles en propriétés formelles. Deuxièmement, nous décrivons une méthode fiable mais incomplète pour vérifier les RNQs sans recourir aux théories des entiers ou des vecteurs de bits. Cette méthode combine la théorie des ensembles, l’approximation rationnelle et la vérification SMT pour valider les propriétés formelles définies dans notre première contribution. Nous l’évaluons dans le contexte des véhicules autonomes à l’aide du simulateur HIGHWAY-ENV, ainsi que des solveurs SMT Z3 et Marabou. Troisièmement, nous présentons une méthode de quantification pour les RNA qui préserve leurs propriétés en trouvant la plus grande perturbation admissible. Ce seuil permet à l’outil Popinns de générer un format optimisé via un solveur SMT. Nous implémentons cette méthode dans le domaine de l’avionique en l’évaluant sur le benchmark ACAS Xu avec Marabou. Les résultats de nos contributions démontrent l’efficacité et la fiabilité de nos méthodes par rapport aux solveurs SMT traditionnels. M