Récital 54
Les données biométriques constituant une catégorie particulière de données à caractère personnel, il convient de classer comme présentant un risque élevé plusieurs cas d'utilisation critique des systèmes biométriques, dans la mesure où leur utilisation est autorisée par le droit de l'Union et le droit national applicables. Les inexactitudes techniques des systèmes d'IA destinés à l'identification biométrique à distance des personnes physiques peuvent fausser les résultats et avoir des effets discriminatoires. Le risque de tels résultats biaisés et effets discriminatoires est particulièrement important en ce qui concerne l'âge, l'appartenance ethnique, la race, le sexe ou les handicaps. Les systèmes d'identification biométrique à distance doivent donc être classés dans la catégorie des systèmes à haut risque, compte tenu des risques qu'ils présentent. Cette classification exclut les systèmes d'IA destinés à être utilisés pour la vérification biométrique, y compris l'authentification, dont le seul but est de confirmer qu'une personne physique spécifique est bien celle qu'elle prétend être et de confirmer l'identité d'une personne physique dans le seul but d'avoir accès à un service, de déverrouiller un dispositif ou d'avoir un accès sécurisé à des locaux. En outre, les systèmes d'IA destinés à être utilisés pour la catégorisation biométrique en fonction d'attributs ou de caractéristiques sensibles protégés en vertu de l'article 9, paragraphe 1, du règlement (UE) 2016/679 sur la base de données biométriques, dans la mesure où ils ne sont pas interdits en vertu du présent règlement, et les systèmes de reconnaissance des émotions qui ne sont pas interdits en vertu du présent règlement, devraient être classés dans la catégorie des systèmes à haut risque. Les systèmes biométriques destinés à être utilisés uniquement pour permettre la mise en œuvre de mesures de cybersécurité et de protection des données à caractère personnel ne devraient pas être considérés comme des systèmes d'IA à haut risque
Le présent considérant concerne
Article 6 : Règles de classification des systèmes d'IA à haut risque
Annexe III : Systèmes d'IA à haut risque visés à l'article 6, paragraphe 2