Erwägungsgrund 54
Da es sich bei biometrischen Daten um eine besondere Kategorie personenbezogener Daten handelt, ist es angebracht, mehrere kritische Verwendungsfälle biometrischer Systeme als hochriskant einzustufen, sofern ihre Verwendung nach dem einschlägigen Unionsrecht und dem nationalen Recht zulässig ist. Technische Ungenauigkeiten von KI-Systemen, die für die biometrische Fernidentifizierung natürlicher Personen bestimmt sind, können zu verfälschten Ergebnissen führen und diskriminierende Auswirkungen nach sich ziehen. Das Risiko solcher verfälschter Ergebnisse und diskriminierender Auswirkungen besteht insbesondere in Bezug auf Alter, ethnische Zugehörigkeit, Rasse, Geschlecht oder Behinderung. Biometrische Fernerkennungssysteme sollten daher in Anbetracht der von ihnen ausgehenden Risiken als hochriskant eingestuft werden. Eine solche Einstufung schließt KI-Systeme aus, die für die biometrische Überprüfung, einschließlich der Authentifizierung, verwendet werden sollen, deren einziger Zweck darin besteht, zu bestätigen, dass eine bestimmte natürliche Person diejenige ist, die sie vorgibt zu sein, und die Identität einer natürlichen Person zu bestätigen, um Zugang zu einem Dienst zu erhalten, ein Gerät zu entsperren oder sicheren Zugang zu Räumlichkeiten zu erhalten. Darüber hinaus sollten KI-Systeme, die für die biometrische Kategorisierung nach sensiblen Attributen oder Merkmalen, die gemäß Artikel 9 Absatz 1 der Verordnung (EU) 2016/679 geschützt sind, auf der Grundlage biometrischer Daten verwendet werden sollen, sofern sie nicht gemäß dieser Verordnung verboten sind, sowie Systeme zur Erkennung von Emotionen, die nicht gemäß dieser Verordnung verboten sind, als hochriskant eingestuft werden. Biometrische Systeme, die ausschließlich dazu bestimmt sind, Maßnahmen der Cybersicherheit und des Schutzes personenbezogener Daten zu ermöglichen, sollten nicht als KI-Systeme mit hohem Risiko angesehen werden
Dieser Erwägungsgrund bezieht sich auf
Artikel 6: Klassifizierungsregeln für KI-Systeme mit hohem Risiko
Anhang III: In Artikel 6 Absatz 2 genannte AI-Systeme mit hohem Risiko