Erwägungsgrund 155
Um sicherzustellen, dass die Anbieter von KI-Systemen mit hohem Risiko die Erfahrungen mit der Verwendung von KI-Systemen mit hohem Risiko bei der Verbesserung ihrer Systeme und des Entwurfs- und Entwicklungsprozesses berücksichtigen oder etwaige Korrekturmaßnahmen rechtzeitig ergreifen können, sollten alle Anbieter über ein System zur Überwachung nach dem Inverkehrbringen verfügen. Gegebenenfalls sollte die Überwachung nach dem Inverkehrbringen eine Analyse der Interaktion mit anderen KI-Systemen, einschließlich anderer Geräte und Software, umfassen. Die Überwachung nach dem Inverkehrbringen sollte nicht die sensiblen Betriebsdaten von Anwendern umfassen, bei denen es sich um Strafverfolgungsbehörden handelt. Dieses System ist auch von zentraler Bedeutung, um sicherzustellen, dass die möglichen Risiken, die von KI-Systemen ausgehen, die nach dem Inverkehrbringen oder der Inbetriebnahme weiter "lernen", effizienter und zeitnah angegangen werden können. In diesem Zusammenhang sollten die Anbieter auch verpflichtet werden, über ein System zu verfügen, mit dem sie den zuständigen Behörden alle schwerwiegenden Vorfälle melden können, die sich aus der Nutzung ihrer KI-Systeme ergeben, d. h. Vorfälle oder Funktionsstörungen, die zum Tod oder zu schweren Gesundheitsschäden führen, schwerwiegende und irreversible Störungen der Verwaltung und des Betriebs kritischer Infrastrukturen, Verstöße gegen Verpflichtungen aus dem Unionsrecht zum Schutz der Grundrechte oder schwere Sach- oder Umweltschäden.