Récital 155
Afin de garantir que les fournisseurs de systèmes d'IA à haut risque puissent tenir compte de l'expérience acquise lors de l'utilisation de systèmes d'IA à haut risque pour améliorer leurs systèmes et le processus de conception et de développement, ou qu'ils puissent prendre toute mesure corrective éventuelle en temps utile, tous les fournisseurs devraient disposer d'un système de suivi après commercialisation. Le cas échéant, le suivi post-commercialisation doit comprendre une analyse de l'interaction avec d'autres systèmes d'IA, y compris d'autres dispositifs et logiciels. Le suivi post-commercialisation ne doit pas porter sur les données opérationnelles sensibles des déployeurs qui sont des autorités chargées de l'application de la loi. Ce système est également essentiel pour garantir que les risques éventuels liés aux systèmes d'IA qui continuent à "apprendre" après leur mise sur le marché ou leur mise en service puissent être traités plus efficacement et plus rapidement. Dans ce contexte, les fournisseurs devraient également être tenus de mettre en place un système permettant de signaler aux autorités compétentes tout incident grave résultant de l'utilisation de leurs systèmes d'IA, c'est-à-dire un incident ou un dysfonctionnement entraînant la mort ou une atteinte grave à la santé, une perturbation grave et irréversible de la gestion et de l'exploitation d'une infrastructure critique, une violation des obligations prévues par le droit de l'Union en matière de protection des droits fondamentaux ou une atteinte grave aux biens ou à l'environnement.