Recital 155
Con el fin de garantizar que los proveedores de sistemas de IA de alto riesgo puedan tener en cuenta la experiencia sobre el uso de sistemas de IA de alto riesgo para mejorar sus sistemas y el proceso de diseño y desarrollo o puedan adoptar cualquier posible medida correctiva de manera oportuna, todos los proveedores deben contar con un sistema de seguimiento posterior a la comercialización. Cuando proceda, el seguimiento posterior a la comercialización debe incluir un análisis de la interacción con otros sistemas de IA, incluidos otros dispositivos y programas informáticos. El seguimiento posterior a la comercialización no debe abarcar los datos operativos sensibles de los implantadores que sean autoridades policiales. Este sistema también es clave para garantizar que los posibles riesgos que surjan de los sistemas de IA que siguen "aprendiendo" después de su comercialización o puesta en servicio puedan abordarse de manera más eficiente y oportuna. En este contexto, también debe exigirse a los proveedores que dispongan de un sistema para notificar a las autoridades pertinentes cualquier incidente grave derivado del uso de sus sistemas de IA, es decir, incidentes o fallos de funcionamiento que provoquen la muerte o daños graves para la salud, perturbaciones graves e irreversibles de la gestión y el funcionamiento de infraestructuras críticas, infracciones de las obligaciones derivadas del Derecho de la Unión destinadas a proteger los derechos fundamentales o daños graves a la propiedad o al medio ambiente.
El presente considerando se refiere a
Artículo 73. Notificación de incidentes graves Notificación de incidentes graves