IA fail-closed : refuser lorsque la preuve manque
Implémenter un comportement fail-closed avec preuves requises, schémas stricts, timeouts et refus explicites.
Fail-closed signifie que l’absence de preuve, l’ambiguïté ou l’échec d’un contrôle ne devient jamais une permission implicite.
Un fallback permissif transforme une panne de modèle, de retrieval ou de vérificateur en action non contrôlée.
Les conditions de refus doivent être testées comme des comportements de première classe, pas ajoutées après coup.
Ce que l’architecture doit rendre explicite
Une capacité ne confère pas une autorité. Les systèmes critiques doivent séparer ce qui propose, ce qui vérifie, ce qui permet et ce qui exécute.
Passer d’un mot-clé à une décision d’ingénierie inspectable
Séparer
Découpler proposition probabiliste, validation, permission et exécution physique.
Borner
Limiter les outils, données, actions, durées et environnements accessibles à chaque composant.
Refuser
Faire de l’absence de preuve, du timeout et de l’ambiguïté des états explicites.
Auditer
Conserver la règle appliquée, ses entrées, sa version et la décision obtenue.
Une affirmation ne vaut que par son binding
Le gate doit évaluer la sortie réellement produite par la réalisation exacte. Intégrité, validité scientifique et autorité sont liées, mais jamais interchangeables.
Les questions qui changent la conception
Que demande concrètement ia fail-closed : refuser lorsque la preuve manque ?
Fail-closed signifie que l’absence de preuve, l’ambiguïté ou l’échec d’un contrôle ne devient jamais une permission implicite. Une capacité ne confère pas une autorité. Les systèmes critiques doivent séparer ce qui propose, ce qui vérifie, ce qui permet et ce qui exécute.
Quelles preuves faut-il conserver ?
Au minimum : identité exacte de la réalisation, entrées et sorties, version du protocole, mesures, cas d’échec et règle de décision. Les conditions de refus doivent être testées comme des comportements de première classe, pas ajoutées après coup.
AMF impose-t-il un modèle particulier ?
Non. AMF traite modèle, runtime, données, outils et composants déterministes comme des matériaux candidats. Leur conservation dépend de leur contribution mesurée et des contraintes déclarées.