La sophistication des systèmes autonomes en cours de développement dans divers domaines et industries a considérablement augmenté ces dernières années, en grande partie grâce aux progrès de l’informatique, de la modélisation, de la détection et d’autres technologies. Bien qu’une grande partie de la technologie qui a permis cette révolution technique ait progressé rapidement, les garanties de sécurité officielles pour ces systèmes sont toujours à la traîne.
Cela est largement dû à leur dépendance à l’égard des technologies d’apprentissage automatique (ou machine learning , en anglais) basées sur les données, qui sont intrinsèquement imprévisibles et manquent du cadre mathématique nécessaire pour fournir des garanties de correction. Sans assurance, la confiance dans la sécurité et le fonctionnement correct de tout système cyberphysique (ou learning enabled capabilities , en anglais) activé par l’apprentissage est limitée, ce qui entrave leur large déploiement et leur adoption.
Pour relever ce défi, le programme Assured Autonomy, de Darpa, s’efforce de fournir une assurance continue de la sécurité et de l’exactitude fonctionnelle d’un tel système, à la fois au moment de sa conception et pendant son fonctionnement. Le programme développe des approches et des outils mathématiquement vérifiables qui peuvent être appliqués à différents types et applications d’algorithmes basés sur les données dans ces systèmes pour améliorer leur autonomie et garantir qu’ils atteignent un niveau de sécurité acceptable. Pour aider à fonder les objectifs de recherche, le programme priorise les problèmes de défi dans l’espace des véhicules autonomes liés à la défense, spécifiquement liés aux plates-formes aériennes, terrestres et sous-marines.
La première phase du programme Assured Autonomy vient de s’achever récemment. Pour évaluer les technologies en développement, les équipes de recherche les ont intégrées dans un petit nombre de systèmes de démonstration autonomes et les ont évaluées en fonction de divers défis liés à la défense. Après 18 mois de recherche et développement sur les méthodes d’assurance, les outils et les capacités d’apprentissage (LEC), le programme montre des signes précurseurs de progrès.
https://www.darpa.mil
Print this page
