Il est primordial d'assurer un niveau acceptable de crédibilité aux algorithmes basés sur des données, en raison du manque de transparence inhérent à cette technologie. Par conséquent, afin de garantir un niveau de qualité adéquat et d'atténuer le risque élevé de produire des résultats incorrects ou peu fiables, les agences de régulation telles que la Food and Drug Administration (FDA) des États-Unis et l'Agence européenne des médicaments (EMA) ont établi des exigences de haut niveau afin de garantir la sécurité et l'efficacité des produits et services fondés sur l'IA.
Les exigences mentionnées ci-dessus sont principalement liées à
Pour répondre à ces exigences, un processus de validation est nécessaire, afin de démontrer la conformité aux exigences réglementaires et de maintenir l'intégrité et la précision de tout modèle d'IA ou de l'AA au fil du temps.
Sur la base des réglementations les plus récentes concernant la validation IA/AA, le centre de compétences en technologies avancées du groupe PQE a élaboré une stratégie efficace de prévision du risque afin d'atteindre le niveau de conformité requis:
En intégrant le contenu des lignes directrices susmentionnées à la nouvelle approche Computer Software Assurance (CSA) et à la méthodologie Agile Development, les experts du groupe PQE ont développé un cadre dédié pour garantir un niveau acceptable de crédibilité des algorithmes à valider.
Figure 1: CSA Approach scheme
Figure 2: Agile methodology
Figure 3: Model Validation Lifecycle
Les activités de validation à réaliser sur un modèle IA/AA comprennent toujours les activités suivantes :
Comme indiqué précédemment, le processus de validation doit également s'appuyer sur l'approche de la CSA afin de réduire l'effort prévu, en accordant plus de place à la phase de réflexion critique et aux tâches d'assurance, en optimisant les activités d'essai et en réduisant la documentation.
En particulier, la détermination du risque est au cœur du processus. Cela permet d'équilibrer les activités de validation, en garantissant un niveau d'acceptation réglementaire adéquat et une quantité raisonnable de documentation à créer et à conserver.
Parallèlement, un processus de validation des données est nécessaire pour répondre à toutes les exigences en matière d'intégrité et de qualité des données.
Figure 4: Data lifecycle and validation integrated with Model maintenance lifecycle
En particulier, il n'est pas possible de valider un algorithme d'IA/AA sans tenir compte du format des données et du processus d'ingénierie des données en général.
En conclusion, la validation des systèmes GxP comprenant des modèles/algorithmes d'IA/AA est une étape critique pour garantir la qualité et la sécurité des produits réglementés. Il est essentiel de prendre en compte des facteurs tels que la qualité des données, la stabilité algorithmique, la performance du modèle, l'explicabilité du modèle et la documentation afin de garantir la fiabilité et l'efficacité de ces modèles.
L'équipe de PQE Advanced Technologies a développé une stratégie solide pour atteindre la conformité, en combinant les principales étapes de validation avec les principes de la CSA et des méthodologies agiles. Cela permettra d'optimiser les activités, en équilibrant la quantité de documentation à produire et en obtenant de l'autre côté le niveau approprié d'acceptation réglementaire, tout en gardant à l'esprit le nettoyage des données et les flux de travail de l'ingénierie des données, qui ont un impact important sur l'efficacité et la maintenance du modèle.
