Erwägungsgrund 27

Während der risikobasierte Ansatz die Grundlage für ein verhältnismäßiges und wirksames Bündel verbindlicher Vorschriften bildet, ist es wichtig, an die Ethik-Leitlinien für vertrauenswürdige KI aus dem Jahr 2019 zu erinnern, die von der von der Kommission eingesetzten unabhängigen KI-HLEG entwickelt wurden. In diesen Leitlinien hat die KI-HLEG sieben unverbindliche ethische Grundsätze für KI entwickelt, die dazu beitragen sollen, dass KI vertrauenswürdig und ethisch einwandfrei ist. Zu den sieben Grundsätzen gehören: menschliches Handeln und Aufsicht, technische Robustheit und Sicherheit, Datenschutz und Datenverwaltung, Transparenz, Vielfalt, Nichtdiskriminierung und Fairness, gesellschaftliches und ökologisches Wohlergehen und Rechenschaftspflicht. Unbeschadet der rechtsverbindlichen Anforderungen dieser Verordnung und anderer geltender Rechtsvorschriften der Union tragen diese Leitlinien zur Entwicklung einer kohärenten, vertrauenswürdigen und auf den Menschen ausgerichteten KI bei, die im Einklang mit der Charta und den Werten steht, auf die sich die Union gründet. Gemäß den Leitlinien der KI-HLEG bedeutet menschliches Handeln und menschliche Aufsicht, dass KI-Systeme als ein Werkzeug entwickelt und eingesetzt werden, das den Menschen dient, die menschliche Würde und persönliche Autonomie respektiert und so funktioniert, dass es von Menschen angemessen kontrolliert und überwacht werden kann. Technische Robustheit und Sicherheit bedeutet, dass KI-Systeme so entwickelt und eingesetzt werden, dass sie im Falle von Problemen robust und widerstandsfähig gegen Versuche sind, die Nutzung oder Leistung des KI-Systems so zu verändern, dass eine unrechtmäßige Nutzung durch Dritte möglich ist, und dass unbeabsichtigte Schäden minimiert werden. Datenschutz bedeutet, dass KI-Systeme im Einklang mit den Vorschriften zum Schutz der Privatsphäre und des Datenschutzes entwickelt und eingesetzt werden und dabei Daten verarbeiten, die hohen Qualitäts- und Integritätsstandards entsprechen. Transparenz bedeutet, dass KI-Systeme in einer Weise entwickelt und eingesetzt werden, die eine angemessene Rückverfolgbarkeit und Erklärbarkeit ermöglicht, wobei den Menschen bewusst gemacht wird, dass sie mit einem KI-System kommunizieren oder interagieren, und die Anwender über die Fähigkeiten und Grenzen des KI-Systems und die betroffenen Personen über ihre Rechte ordnungsgemäß informiert werden. Vielfalt, Nichtdiskriminierung und Fairness bedeutet, dass KI-Systeme in einer Weise entwickelt und eingesetzt werden, die unterschiedliche Akteure einbezieht und den gleichberechtigten Zugang, die Gleichstellung der Geschlechter und die kulturelle Vielfalt fördert, wobei diskriminierende Auswirkungen und unfaire Vorurteile, die nach Unionsrecht oder nationalem Recht verboten sind, zu vermeiden sind. Soziales und ökologisches Wohlergehen bedeutet, dass KI-Systeme in einer nachhaltigen und umweltfreundlichen Art und Weise entwickelt und eingesetzt werden, die allen Menschen zugute kommt, wobei die langfristigen Auswirkungen auf den Einzelnen, die Gesellschaft und die Demokratie überwacht und bewertet werden. Die Anwendung dieser Grundsätze sollte, wenn möglich, bei der Entwicklung und Nutzung von KI-Modellen umgesetzt werden. Sie sollten auf jeden Fall als Grundlage für die Ausarbeitung von Verhaltenskodizes im Rahmen dieser Verordnung dienen. Alle Beteiligten, einschließlich der Industrie, der Wissenschaft, der Zivilgesellschaft und der Normungsorganisationen, werden aufgefordert, die ethischen Grundsätze bei der Entwicklung freiwilliger bewährter Praktiken und Normen gegebenenfalls zu berücksichtigen.