Chaque modèle et chaque agent est enregistré, classé et surveillé.
La gouvernance n’est pas une réunion de revue. C’est un registre, une classe de risque, un état d’approbation et un relevé de surveillance pour chaque modèle et chaque agent en production.
Rien ne s’exécute sans enregistrement.
Entrée au registre
Chaque modèle et chaque agent porte une identité, un propriétaire, une finalité, un périmètre de données et un type de sortie déclaré.
Classification des risques
Attribuée selon l’usage prévu et la conséquence d’une erreur ; détermine les preuves exigées avant mise en service.
Passeport d’agent
Pour chaque agent MSI : tâche, données autorisées, type de sortie, relevé d’évaluation et état d’approbation.
Version & lignage
Empreinte des poids, lignage d’entraînement et instantané des preuves en vigueur à la mise en service.
Performance & dérive
Surveillance continue par rapport à la population de validation, avec alerte en cas de divergence.
État d’approbation
Mis en service, restreint ou retiré — appliqué au niveau de la couche de service, non par convention.
Comment un modèle est autorisé à évoluer.
Données, code et configuration sous contrôle de version. Aucune donnée de production en développement sans dé-identification encadrée.
Seuils préenregistrés. Performance rapportée avec intervalles de confiance et stratification par sous-groupes ; calibration évaluée, et pas seulement la discrimination.
Enregistrement de changement approuvé, entrée au registre avec empreinte des poids, retour arrière testé avant mise en service.
Versions figées au lancement. Chaque prédiction consigne la version du modèle qui l’a produite.
Dérive des entrées, distribution des sorties, calibration et taux de rejet par les relecteurs, en continu.
Versions historiques conservées pendant toute la durée de rétention, afin que les sorties passées restent reproductibles.
Les composants adaptatifs requièrent une autorisation préalable.
Tout composant destiné à s’adapter en production opère sous un plan approuvé précisant le protocole de modification, l’enveloppe de performance à l’intérieur de laquelle un changement n’exige pas de nouvelle autorisation, la surveillance qui le vérifie et le retour arrière automatique déclenché en cas de dépassement. Sans ce plan, un dispositif à apprentissage continu n’est pas légalement commercialisable.
C’est pourquoi la plateforme est lancée avec des modèles figés et le dispositif de contrôle des modifications construit mais non activé. Le construire plus tard imposerait de revalider chaque modèle déjà en usage clinique.
Examinez notre cadre de gouvernance.
Correspondances de contrôles, structure du registre et méthodologie d’évaluation partagées sous NDA.