Récital 56

Le déploiement de systèmes d'IA dans l'éducation est important pour promouvoir une éducation et une formation numériques de haute qualité et pour permettre à tous les apprenants et enseignants d'acquérir et de partager les aptitudes et compétences numériques nécessaires, y compris la maîtrise des médias et l'esprit critique, afin de prendre une part active dans l'économie, la société et les processus démocratiques. Toutefois, les systèmes d'IA utilisés dans l'éducation ou la formation professionnelle, en particulier pour déterminer l'accès ou l'admission, pour affecter des personnes à des établissements ou programmes d'éducation et de formation professionnelle à tous les niveaux, pour évaluer les résultats d'apprentissage des personnes, pour évaluer le niveau d'éducation approprié pour une personne et influencer matériellement le niveau d'éducation et de formation que les personnes recevront ou pourront accéder, ou pour surveiller et détecter les comportements interdits des étudiants pendant les tests, devraient être classés comme des systèmes d'IA à haut risque, car ils peuvent déterminer le parcours éducatif et professionnel de la vie d'une personne et, par conséquent, affecter la capacité de cette personne à s'assurer des moyens de subsistance. Lorsqu'ils sont mal conçus et utilisés, ces systèmes peuvent être particulièrement intrusifs et violer le droit à l'éducation et à la formation ainsi que le droit de ne pas être discriminé et de perpétuer des schémas historiques de discrimination, par exemple à l'égard des femmes, de certains groupes d'âge, des personnes handicapées ou des personnes de certaines origines raciales ou ethniques ou d'une certaine orientation sexuelle.

Le présent considérant concerne

Article 6 : Règles de classification des systèmes d'IA à haut risque

Annexe III : Systèmes d'IA à haut risque visés à l'article 6, paragraphe 2