Le registre des incidents
Surveiller un système d'IA n'est pas une option : c'est une obligation du déployeur. Encore faut-il un endroit où consigner ce qu'on observe.
Ce qu'exige le règlement
Le déployeur d'un système à haut risque doit surveiller son fonctionnement conformément à la notice, suspendre l'usage et informer le fournisseur lorsqu'il identifie un risque, et signaler les incidents graves.
Cette obligation suppose une trace. Un incident traité oralement n'existe pas pour une autorité de surveillance.
Ce que porte un incident
- Le système concerné ;
- La gravité — mineur, majeur, grave ;
- La description de ce qui a été observé ;
- Le statut de traitement — en cours, résolu ;
- La date, qui fait courir les délais de signalement.
Dans la santé, un incident sur un dispositif médical peut relever simultanément de la matériovigilance (ANSM) et de l'AI Act. Les deux circuits coexistent et ne se remplacent pas.
Voyez-le sur vos propres systèmes
Aegida cartographie, qualifie et pilote la conformité de vos systèmes d'IA. Démonstration interactive, données fictives, sans inscription.
Voir la démonstration
Aegida