L'institut Fraunhofer publie un modèle de procédure pour l'ingénierie de l'IA

Les défis de l'ingénierie de l'IA proviennent des caractéristiques des méthodes basées sur l'IA : La performance des systèmes techniques qui utilisent des méthodes d'apprentissage automatique (ML) ne peut souvent être que mal évaluée à l'avance. Il est donc difficile de faire des déclarations fiables sur la sécurité et la fiabilité. En contrepartie, les avantages potentiels sont importants : Utilisées avec succès, les méthodes pilotées par les données peuvent souvent prendre des décisions plus rapidement et mieux que ne le feraient des méthodes développées de manière classique. Elles soutiennent ainsi l'homme, le déchargent et le complètent. Dans la production industrielle, les procédés ML permettent d'obtenir des produits de meilleure qualité et donc plus durables, d'augmenter l'efficacité des ressources ou de permettre une maintenance prédictive. Dans le domaine de la mobilité, les procédés ML peuvent augmenter la sécurité de conduite, par exemple par le freinage d'urgence dans les situations dangereuses, et ainsi sauver des vies.

Pour intégrer de manière efficace et efficiente des composants basés sur l'IA dans des applications existantes ou nouvelles, une procédure systématique est essentielle. Les modèles de procédure établis de l'ingénierie des systèmes sont conçus pour des systèmes techniques complexes. L'utilisation de l'IA et de la ML pose toutefois de nouveaux défis qu'un modèle de procédure dédié devrait explicitement aborder.

Développer et exploiter systématiquement des solutions d'IA avec l'ingénierie de l'IA

PAISE® (une marque verbale déposée pour les produits des classes 9 et 42 de Nice), le Process Model for AI Systems Engineering, est spécialement conçu pour le développement et l'exploitation de systèmes basés sur l'IA. Il combine des approches issues de l'informatique et de la modélisation pilotée par les données avec celles des disciplines d'ingénierie classiques afin de surmonter les défis. AI Systems Engineering, que l'on peut traduire par ingénierie de l'IA, est le nom que les scientifiques* donnent à l'approche interdisciplinaire sur laquelle ils travaillent depuis le milieu des années 2020. "Avec l'ingénierie de l'IA, nous voulons systématiser le développement et l'exploitation de solutions basées sur l'IA. Ce n'est que si les méthodes d'IA peuvent être utilisées de manière fiable du point de vue de l'ingénierie qu'il y a une chance d'exploiter le potentiel élevé de création de valeur", explique le Prof. Dr.-Ing. habil. Jürgen Beyerer, directeur du Fraunhofer IOSB et du directoire scientifique au CC-KING, le centre de compétences de Karlsruhe pour l'ingénierie de l'IA. "Avec PAISE®, nous avons créé un ensemble d'instruments qui fournit un guide pratique, en particulier aux petites et moyennes entreprises, pour atteindre cet objectif".

Lors du développement, il peut être difficile d'estimer à l'avance la performance d'un système cyber-physique global comportant des éléments d'IA. "Il peut ainsi être nécessaire d'apporter des modifications à la conception de haut niveau du système global, même à un stade tardif", explique Constanze Hasterok, scientifique au Fraunhofer IOSB et éditrice du modèle PAISE®. "Cet effet se produit notamment lorsque les modèles ML finaux sont entraînés avec des données issues du fonctionnement réel. Or, dans le cas de nouveaux développements, des données de haute qualité issues de l'exploitation ne sont typiquement disponibles que tardivement". Pour l'exploitation, il est nécessaire de surveiller et, idéalement, d'adapter automatiquement les modèles ML lorsque les systèmes et leurs conditions environnementales peuvent changer au fil du temps.

A cela s'ajoutent des difficultés de personnel : En règle générale, les entreprises - surtout celles de taille moyenne - ne disposent pas de leurs propres experts en IA. En même temps, les responsables doivent savoir quelle expertise en IA devrait être disponible à long terme pour l'exploitation de systèmes basés sur l'IA et comment le processus de développement et ses résultats intermédiaires doivent être évalués.

Développement adaptable grâce aux checkpoints

PAISE® divise le processus de développement en sept phases. Les équipes de projet dans les entreprises doivent d'abord créer une compréhension commune du problème, définir les objectifs et les exigences et rassembler les solutions possibles. Le produit est ensuite divisé en sous-systèmes sur la base des exigences. Cette décomposition dite fonctionnelle n'est pas finale, c'est ici que commence l'approche agile du modèle. Le développement des différents composants se déroule de manière cyclique, étape par étape, les sous-systèmes sont affinés et leur compatibilité est vérifiée. Chaque cycle augmente le degré de maturité de l'ensemble du système.

Les points de contrôle jouent un rôle important dans ce processus, comme l'explique Hasterok : "Le concept de PAISE® basé sur les points de contrôle permet un processus de développement flexible. Les méthodes ML nécessitent souvent une approche exploratoire : on développe un composant ML à titre de test et on vérifie empiriquement s'il est adapté à l'objectif souhaité. D'autres sous-systèmes nécessitent une approche ciblée, par exemple selon des méthodes établies d'ingénierie des systèmes pour les composants électroniques. Dans PAISE®, les systèmes individuels sont développés en parallèle, selon une procédure adaptée à chaque domaine". Les checkpoints synchronisent très tôt dans le projet l'état de développement des sous-systèmes et évaluent leur interaction en tant que système global. "Contrairement aux jalons classiques, les objectifs ne sont pas définis de manière fixe pour tous les checkpoints au début du projet", poursuit la scientifique. "S'il s'avère par exemple qu'une méthode basée sur la ML n'est finalement pas la plus appropriée, il est possible de recourir à des méthodes statistiques dont l'adéquation est évaluée au point de contrôle suivant".

Quatre artefacts continus créent un cadre

L'organisation d'équipes hétérogènes en profite également : des participants aux compétences différentes se rencontrent régulièrement et peuvent discuter d'aspects transversaux tels que les questions de sécurité, de coûts ou d'éthique. La répartition des rôles de PAISE® définit alors des fonctions et des responsabilités spécifiques à chaque phase. 

Outre la répartition des rôles, il existe trois autres documentations continues des résultats (artefacts) dans PAISE® : le modèle de système décrit les interdépendances des composants individuels ; la documentation pour les contrôles externes comprend les aspects nécessaires à une vérification par des tiers tels que les autorités ; et la documentation des données saisit les métadonnées des données utilisées, telles que leur source, leur qualité, les étapes de prétraitement et les conditions générales de l'obtention des données.

"En mettant à disposition des méthodes systématiques, nous voulons encourager les entreprises et les développeurs* à se lancer dans des projets d'IA. PAISE® est un grand pas en avant. Il représente l'ensemble du processus, de la conception à l'exploitation et à la maintenance, en passant par l'acquisition de données, et aborde toutes les difficultés qui peuvent se présenter d'un point de vue technique lors de la mise en œuvre d'un projet d'IA", explique le Dr Thomas Usländer, chef de département à l'IOSB Fraunhofer et chef de projet de CC-KING.

Un livre blanc sur ce sujet est disponible à télécharger ici.