Erwägungsgrund 91

In Anbetracht der Art von KI-Systemen und der mit ihrer Verwendung möglicherweise verbundenen Risiken für die Sicherheit und die Grundrechte, auch im Hinblick auf die Notwendigkeit, eine angemessene Überwachung der Leistung eines KI-Systems in einer realen Umgebung zu gewährleisten, ist es angebracht, besondere Pflichten für die Einsatzkräfte festzulegen. Die Einsatzkräfte sollten insbesondere geeignete technische und organisatorische Maßnahmen ergreifen, um sicherzustellen, dass sie KI-Systeme mit hohem Risiko im Einklang mit der Gebrauchsanweisung verwenden, und es sollten bestimmte andere Verpflichtungen in Bezug auf die Überwachung der Funktionsweise der KI-Systeme und gegebenenfalls in Bezug auf die Führung von Aufzeichnungen vorgesehen werden. Darüber hinaus sollten die Betreiber sicherstellen, dass die Personen, die mit der Umsetzung der Gebrauchsanweisung und der menschlichen Aufsicht gemäß dieser Verordnung betraut sind, über die erforderliche Kompetenz verfügen, insbesondere über ein angemessenes Maß an KI-Kompetenzn, Ausbildung und Befugnissen, um diese Aufgaben ordnungsgemäß zu erfüllen. Diese Verpflichtungen sollten andere Verpflichtungen des Betreibers in Bezug auf KI-Systeme mit hohem Risiko nach Unionsrecht oder nationalem Recht nicht berühren.

Dieser Erwägungsgrund bezieht sich auf

Artikel 26: Pflichten der Betreiber von KI-Systemen mit hohem Risiko