Récital 57

Les systèmes d'IA utilisés dans le cadre de l'emploi, de la gestion des travailleurs et de l'accès au travail indépendant, en particulier pour le recrutement et la sélection des personnes, pour la prise de décisions concernant les conditions de la relation de travail, la promotion et la cessation des relations contractuelles liées au travail, pour l'attribution des tâches sur la base du comportement individuel, des traits ou caractéristiques personnels et pour le suivi ou l'évaluation des personnes dans les relations contractuelles liées au travail, devraient également être classés comme étant à haut risque, étant donné que ces systèmes peuvent avoir un impact appréciable sur les perspectives de carrière futures, les moyens de subsistance de ces personnes et les droits des travailleurs. Les relations contractuelles liées au travail concernées devraient, de manière significative, impliquer des employés et des personnes fournissant des services par l'intermédiaire des plateformes visées dans le programme de travail 2021 de la Commission. Tout au long du processus de recrutement et lors de l'évaluation, de la promotion ou du maintien des personnes dans des relations contractuelles liées au travail, ces systèmes peuvent perpétuer des schémas historiques de discrimination, par exemple à l'égard des femmes, de certains groupes d'âge, des personnes handicapées ou des personnes de certaines origines raciales ou ethniques ou d'une certaine orientation sexuelle. Les systèmes d'IA utilisés pour surveiller les performances et le comportement de ces personnes peuvent également porter atteinte à leurs droits fondamentaux en matière de protection des données et de la vie privée.

Le présent considérant concerne

Article 6 : Règles de classification des systèmes d'IA à haut risque

Annexe III : Systèmes d'IA à haut risque visés à l'article 6, paragraphe 2