AI Act LogoGesetz über künstliche Intelligenz
  • KI-VO
  • Erwägungsgründe
  • ANHÄNGE
  • ÜBER UNS
KI-Verordnung
Kapitel 1 (Art. 1-4)
Allgemeine Bestimmungen
Kapitel 2 (Art. 5)
Verbotene AI-Praktiken
Kapitel 3 (Art. 6-49)
Hochriskantes KI-System
Abschnitt 1
Einstufung von KI-Systemen als hochriskant
Artikel 6— Klassifizierungsregeln für KI-Systeme mit hohem RisikoArtikel 7— Änderungen des Anhangs III
Abschnitt 2
Anforderungen an hochriskante KI-Systeme
Artikel 8— Erfüllung der AnforderungenArtikel 9— RisikomanagementsystemArtikel 10— Daten und DatenverwaltungArtikel 11— Technische DokumentationArtikel 12— Aufbewahrung der AufzeichnungenArtikel 13— Transparenz und Bereitstellung von Informationen für EinsatzkräfteArtikel 14— Menschliche AufsichtsbehördenArtikel 15— Genauigkeit, Robustheit und Cybersicherheit
Abschnitt 3
Verpflichtungen von Anbietern und Betreibern von KI-Systemen mit hohem Risiko und anderen Parteien
Artikel 16— Pflichten der Anbieter von KI-Systemen mit hohem RisikoArtikel 17— QualitätsmanagementsystemArtikel 18— Führung der DokumentationArtikel 19— Automatisch erzeugte ProtokolleArtikel 20— Abhilfemaßnahmen und InformationspflichtArtikel 21— Zusammenarbeit mit den zuständigen BehördenArtikel 22— Bevollmächtigte Vertreter von Anbietern von KI-Systemen mit hohem RisikopotenzialArtikel 23— Pflichten der ImporteureArtikel 24— Pflichten des HändlersArtikel 25— Verantwortlichkeiten entlang der KI-WertschöpfungsketteArtikel 26— Pflichten der Betreiber von KI-Systemen mit hohem RisikoArtikel 27— Grundrechtliche Folgenabschätzung für hochriskante KI-Systeme
Abschnitt 4
Notifizierende Behörden und benannte Stellen
Artikel 28— Notifizierende BehördenArtikel 29— Antrag einer Konformitätsbewertungsstelle auf NotifizierungArtikel 30— NotifizierungsverfahrenArtikel 31— Anforderungen an die benannten StellenArtikel 32— Vermutung der Konformität mit den Anforderungen in Bezug auf benannte StellenArtikel 33— Zweigstellen der benannten Stellen und Vergabe von UnteraufträgenArtikel 34— Operative Verpflichtungen der benannten StellenArtikel 35— Kennnummern und Verzeichnisse der benannten StellenArtikel 36— Änderungen der NotifizierungenArtikel 37— Anfechtung der Zuständigkeit der benannten StellenArtikel 38— Koordinierung der benannten StellenArtikel 39— Konformitätsbewertungsstellen von Drittländern
Abschnitt 5
Normen, Konformitätsbewertung, Bescheinigungen, Registrierung
Artikel 40— Harmonisierte Normen und NormungsdokumenteArtikel 41— Gemeinsame SpezifikationenArtikel 42— Vermutung der Konformität mit bestimmten AnforderungenArtikel 43— KonformitätsbewertungArtikel 44— BescheinigungenArtikel 45— Informationsverpflichtungen der benannten StellenArtikel 46— Ausnahmen vom KonformitätsbewertungsverfahrenArtikel 47— EU-KonformitätserklärungArtikel 48— CE-KennzeichnungArtikel 49— Registrierung
Kapitel 4 (Art. 50)
Transparenzverpflichtungen für Anbieter und Betreiber von bestimmten KI-Systemen
Kapitel 5 (Art. 51-56)
KI-Modelle für allgemeine Zwecke
Kapitel 6 (Art. 57-63)
Maßnahmen zur Unterstützung der Innovation
Kapitel 7 (Art. 64-70)
Governance
Kapitel 8 (Art. 71)
EU-Datenbank für hochriskante KI-Systeme
Kapitel 9 (Art. 72-94)
Überwachung nach dem Inverkehrbringen, Informationsaustausch und Marktaufsicht
Kapitel 10 (Art. 95-96)
Verhaltenskodizes und Leitlinien
Kapitel 11 (Art. 97-98)
Befugnisübertragungen und Ausschussverfahren
Kapitel 12 (Art. 99-101)
Sanktionen
Kapitel 13 (Art. 102-113)
Schlussbestimmungen

Artikel 9: Risikomanagementsystem

1. Für AI-Systeme mit hohem Risiko wird ein Risikomanagementsystem eingerichtet, umgesetzt, dokumentiert und aufrechterhalten.

2. Das Risikomanagementsystem ist als ein kontinuierlicher, iterativer Prozess zu verstehen, der während des gesamten Lebenszyklus eines risikoreichen AI-Systems geplant und durchgeführt wird und eine regelmäßige systematische Überprüfung und Aktualisierung erfordert. Es umfasst die folgenden Schritte:

(a) die Ermittlung und Analyse der bekannten und der vernünftigerweise vorhersehbaren Risiken, die das AI-System mit hohem Risiko für die Gesundheit, die Sicherheit oder die Grundrechte darstellen kann, wenn das AI-System mit hohem Risiko bestimmungsgemäß verwendet wird;

(b) die Abschätzung und Bewertung der Risiken, die entstehen können, wenn das Hochrisiko-KI-System bestimmungsgemäß und unter den Bedingungen einer vernünftigerweise vorhersehbaren Fehlanwendung eingesetzt wird;

(c) die Bewertung anderer möglicherweise auftretender Risiken auf der Grundlage der Analyse von Daten, die im Rahmen des in Artikel 72 genannten Systems zur Überwachung nach dem Inverkehrbringen gesammelt wurden;

(d) die Verabschiedung geeigneter und gezielter Risikomanagementmaßnahmen, um den gemäß Buchstabe a ermittelten Risiken zu begegnen.

3. (3) Die in diesem Artikel genannten Risiken betreffen nur solche, die durch die Entwicklung oder Konstruktion des AI-Systems mit hohem Risiko oder durch die Bereitstellung angemessener technischer Informationen nach vernünftigem Ermessen eingedämmt oder ausgeschaltet werden können.

4. Bei den in Absatz 2 Buchstabe d genannten Risikomanagementmaßnahmen sind die Auswirkungen und möglichen Wechselwirkungen, die sich aus der kombinierten Anwendung der in diesem Abschnitt festgelegten Anforderungen ergeben, gebührend zu berücksichtigen, um die Risiken wirksamer zu minimieren und gleichzeitig ein angemessenes Gleichgewicht bei der Durchführung der Maßnahmen zur Erfüllung dieser Anforderungen zu erreichen.

5. Die in Absatz 2 Buchstabe d genannten Risikomanagementmaßnahmen müssen so beschaffen sein, dass das mit den einzelnen Gefahren verbundene relevante Restrisiko sowie das Gesamtrestrisiko der mit hohem Risiko behafteten AI-Systeme als annehmbar eingestuft wird. Bei der Ermittlung der am besten geeigneten Risikomanagementmaßnahmen ist Folgendes zu beachten:

(a) Beseitigung oder Verringerung der gemäß Absatz 2 ermittelten und bewerteten Risiken, soweit dies technisch möglich ist, durch eine angemessene Gestaltung und Entwicklung des AI-Systems für Hochrisikoprodukte;

(b) gegebenenfalls Durchführung angemessener Maßnahmen zur Abschwächung und Kontrolle von Risiken, die nicht beseitigt werden können;

(c) die Bereitstellung der gemäß Artikel 13 erforderlichen Informationen und gegebenenfalls die Schulung der Einsatzkräfte. Im Hinblick auf die Beseitigung oder Verringerung der Risiken im Zusammenhang mit dem Einsatz des Hochrisiko-KI-Systems werden die technischen Kenntnisse, die Erfahrung, die Ausbildung und die zu erwartende Schulung des Anwenders sowie der voraussichtliche Kontext, in dem das System eingesetzt werden soll, angemessen berücksichtigt.

6. AI-Systeme mit hohem Risiko werden getestet, um die am besten geeigneten und gezielten Risikomanagementmaßnahmen zu ermitteln. Durch die Tests wird sichergestellt, dass AI-Systeme mit hohem Risiko für den beabsichtigten Zweck durchgängig funktionieren und die in diesem Abschnitt festgelegten Anforderungen erfüllen.

7. Die Prüfverfahren können Prüfungen unter realen Bedingungen gemäß Artikel 60 umfassen.

8. Die Erprobung von KI-Systemen mit hohem Risiko erfolgt gegebenenfalls zu jedem Zeitpunkt des Entwicklungsprozesses, in jedem Fall aber vor dem Inverkehrbringen oder der Inbetriebnahme des Systems. Die Tests werden anhand zuvor festgelegter Messgrößen und Wahrscheinlichkeitsschwellen durchgeführt, die für den beabsichtigten Zweck des KI-Systems mit hohem Risiko geeignet sind.

9. (8) Bei der Anwendung des Risikomanagementsystems gemäß den Absätzen 1 bis 7 prüfen die Anbieter, ob das AI-System für hohe Risiken angesichts des beabsichtigten Zwecks nachteilige Auswirkungen auf Personen unter 18 Jahren und gegebenenfalls auf andere schutzbedürftige Gruppen haben könnte.

10. Bei Anbietern von KI-Systemen mit hohem Risiko, die aufgrund anderer einschlägiger Bestimmungen des Unionsrechts Anforderungen an interne Risikomanagementverfahren unterliegen, können die in den Absätzen 1 bis 9 genannten Aspekte Teil der gemäß diesen Rechtsvorschriften festgelegten Risikomanagementverfahren sein oder mit diesen kombiniert werden.

Geeignete Erwägungsgründe

[65]

Artikel 8Artikel 10
AI Act - Table of contents
AI Act Logo

Wir verfolgen und interpretieren jede Entwicklung rund um das EU-Gesetz über künstliche Intelligenz in Echtzeit.