Recital 56

El despliegue de sistemas de IA en la educación es importante para promover una educación y formación digitales de alta calidad y para permitir que todos los alumnos y profesores adquieran y compartan las habilidades y competencias digitales necesarias, incluida la alfabetización mediática, y el pensamiento crítico, para participar activamente en la economía, la sociedad y los procesos democráticos. Sin embargo, los sistemas de IA utilizados en la educación o la formación profesional, en particular para determinar el acceso o la admisión, para asignar personas a instituciones o programas educativos y de formación profesional a todos los niveles, para evaluar los resultados del aprendizaje de las personas, para evaluar el nivel de educación adecuado para una persona e influir materialmente en el nivel de educación y formación que las personas recibirán o al que podrán acceder, o para supervisar y detectar comportamientos prohibidos de los estudiantes durante las pruebas, deben clasificarse como sistemas de IA de alto riesgo, ya que pueden determinar el curso educativo y profesional de la vida de una persona y, por lo tanto, pueden afectar a la capacidad de esa persona para asegurarse un medio de vida. Cuando se diseñan y utilizan de forma inadecuada, estos sistemas pueden ser especialmente intrusivos y vulnerar el derecho a la educación y a la formación, así como el derecho a no ser discriminado, y perpetuar pautas históricas de discriminación, por ejemplo contra las mujeres, determinados grupos de edad, personas con discapacidad o personas de determinados orígenes raciales o étnicos u orientación sexual.

El presente considerando se refiere a

Artículo 6: Normas de clasificación de los sistemas de IA de alto riesgo

Anexo III: Sistemas de IA de alto riesgo contemplados en el apartado 2 del artículo 6