Artikel 27: Grundrechtliche Folgenabschätzung für hochriskante KI-Systeme

1. (1) Vor dem Einsatz eines in Artikel 6 Absatz 2 genannten, mit hohem Risiko behafteten KI-Systems - mit Ausnahme von mit hohem Risiko behafteten KI-Systemen, die in dem in Anhang III Nummer 2 aufgeführten Bereich eingesetzt werden sollen - führen die Einsatzstellen, bei denen es sich um Einrichtungen des öffentlichen Rechts oder um private Stellen handelt, die öffentliche Dienstleistungen erbringen, sowie die Einsatzstellen von mit hohem Risiko behafteten KI-Systemen im Sinne von Anhang III Nummer 5 Buchstaben b und c eine Bewertung der Auswirkungen durch, die der Einsatz eines solchen Systems auf die Grundrechte haben kann. Zu diesem Zweck führen die Betreiber eine Bewertung durch, die Folgendes umfasst:

(a) eine Beschreibung der Verfahren des Betreibers, in denen das Hochrisiko-KI-System entsprechend seinem vorgesehenen Zweck eingesetzt wird;

(b) eine Beschreibung des Zeitraums und der Häufigkeit, in dem bzw. mit der jedes AI-System für hohe Risiken eingesetzt werden soll;

(c) die Kategorien natürlicher Personen und Gruppen, die von der Verwendung in dem jeweiligen Kontext betroffen sein könnten;

(d) die spezifischen Schadensrisiken, die sich auf die gemäß Buchstabe c dieses Absatzes ermittelten Kategorien natürlicher Personen oder Personengruppen auswirken können, wobei die vom Dienstleistungserbringer gemäß Artikel 13 erteilten Informationen zu berücksichtigen sind;

(e) eine Beschreibung der Durchführung von Überwachungsmaßnahmen für Menschen gemäß der Gebrauchsanweisung;

(f) die Maßnahmen, die im Falle des Eintretens dieser Risiken zu ergreifen sind, einschließlich der Regelungen für die interne Steuerung und die Beschwerdemechanismen.

2. Die Verpflichtung nach Absatz 1 gilt für den ersten Einsatz des Hochrisiko-KI-Systems. Der Einsatzbetrieb kann sich in ähnlichen Fällen auf zuvor durchgeführte Grundrechtsverträglichkeitsprüfungen oder bestehende Folgenabschätzungen des Anbieters stützen. Stellt der Betreiber während der Nutzung des Hochrisiko-KI-Systems fest, dass sich eines der in Absatz 1 aufgeführten Elemente geändert hat oder nicht mehr aktuell ist, ergreift er die erforderlichen Maßnahmen zur Aktualisierung der Informationen.

3. (3) Nach Durchführung der in Absatz 1 des vorliegenden Artikels genannten Bewertung teilt der Betreiber der Marktüberwachungsbehörde die Ergebnisse mit und legt dabei das ausgefüllte Formblatt gemäß Absatz 5 des vorliegenden Artikels vor. In dem in Artikel 46 Absatz 1 genannten Fall kann der Betreiber von dieser Meldepflicht befreit werden.

4. Wird eine der in diesem Artikel festgelegten Verpflichtungen bereits durch die gemäß Artikel 35 der Verordnung (EU) 2016/679 oder Artikel 27 der Richtlinie (EU) 2016/680 durchgeführte Datenschutz-Folgenabschätzung erfüllt, so ergänzt die in Absatz 1 des vorliegenden Artikels genannte Grundrechtsfolgenabschätzung diese Datenschutz-Folgenabschätzung.

5. (5) Das AI-Büro entwickelt eine Vorlage für einen Fragebogen, auch in Form eines automatisierten Instruments, um es den Entsendern zu erleichtern, ihren Verpflichtungen nach diesem Artikel auf vereinfachte Weise nachzukommen.

Geeignete Erwägungsgründe

[93] [96]