Valider une IA en environnement GxP
Un modèle d'IA qui évolue est difficile à figer, or la validation des systèmes informatisés suppose un système maîtrisé. Comment concilier les deux.
Le défi
En environnement GxP (essais cliniques, fabrication, pharmacovigilance), tout système informatisé doit être validé et rester sous contrôle. Un modèle d'apprentissage automatique peut dériver avec les données, ce qui impose de repenser la validation.
Une approche fondée sur le risque
- Périmètre d'usage défini : ce que le modèle fait, et ce qu'il ne fait pas.
- Données maîtrisées : qualité, traçabilité et versionnage des jeux de données.
- Critères de performance fixés avant la mise en service, avec un suivi continu de la dérive.
- Supervision humaine proportionnée au risque pour le patient et pour la qualité des données.
- Gestion du changement : savoir quand une mise à jour du modèle exige une revalidation.
Notre point de vue
Les référentiels qualité (GAMP 5, intégrité des données) restent la base. Les autorités travaillent à des lignes directrices dédiées à l'IA : mieux vaut s'y préparer en documentant dès maintenant.
Éclairage d'ordre général, ne constitue pas un avis juridique.
En parler avec un expert
Nous pouvons faire le point sur votre situation lors d'un court échange.
Nous contacter