Erwägungsgrund 72

Um Bedenken im Zusammenhang mit der Undurchsichtigkeit und Komplexität bestimmter KI-Systeme auszuräumen und den Betreibern zu helfen, ihren Verpflichtungen im Rahmen dieser Verordnung nachzukommen, sollte für KI-Systeme mit hohem Risiko Transparenz vorgeschrieben werden, bevor sie in Verkehr gebracht oder in Betrieb genommen werden. KI-Systeme mit hohem Risiko sollten so konzipiert sein, dass die Anwender verstehen können, wie das KI-System funktioniert, seine Funktionalität bewerten und seine Stärken und Grenzen nachvollziehen können. KI-Systeme mit hohem Risiko sollten mit geeigneten Informationen in Form von Gebrauchsanweisungen versehen werden. Diese Informationen sollten die Merkmale, Fähigkeiten und Leistungsgrenzen des KI-Systems umfassen. Dazu gehören Informationen über mögliche bekannte und vorhersehbare Umstände im Zusammenhang mit der Nutzung des KI-Systems mit hohem Risiko, einschließlich der Maßnahmen des Anwenders, die das Verhalten und die Leistung des Systems beeinflussen können, unter denen das KI-System zu Risiken für die Gesundheit, die Sicherheit und die Grundrechte führen kann, über die vom Anbieter vorab festgelegten und auf Konformität bewerteten Änderungen und über die einschlägigen menschlichen Aufsichtsmaßnahmen, einschließlich der Maßnahmen zur Erleichterung der Interpretation der Ergebnisse des KI-Systems durch die Anwender. Die Transparenz, einschließlich der begleitenden Gebrauchsanweisung, sollte den Anwendern bei der Nutzung des Systems helfen und ihnen eine fundierte Entscheidungsfindung ermöglichen. Die Einsatzkräfte sollten unter anderem besser in der Lage sein, das System, das sie einsetzen wollen, unter Berücksichtigung der für sie geltenden Verpflichtungen richtig auszuwählen, über die beabsichtigten und ausgeschlossenen Verwendungszwecke aufgeklärt zu werden und das KI-System korrekt und angemessen einzusetzen. Um die Lesbarkeit und Zugänglichkeit der in der Gebrauchsanweisung enthaltenen Informationen zu verbessern, sollten gegebenenfalls anschauliche Beispiele, z. B. zu den Beschränkungen sowie zu den beabsichtigten und ausgeschlossenen Verwendungszwecken des AI-Systems, aufgenommen werden. Die Anbieter sollten sicherstellen, dass die gesamte Dokumentation, einschließlich der Gebrauchsanweisung, aussagekräftige, umfassende, zugängliche und verständliche Informationen enthält, die den Bedürfnissen und voraussichtlichen Kenntnissen der Zielgruppe Rechnung tragen. Die Gebrauchsanweisungen sollten in einer Sprache zur Verfügung gestellt werden, die von den Zielanwendern leicht verstanden werden kann, wie von dem betreffenden Mitgliedstaat festgelegt.

Dieser Erwägungsgrund bezieht sich auf

Artikel 13: Transparenz und Bereitstellung von Informationen für Einsatzkräfte