Anexo III: Sistemas de IA de alto riesgo contemplados en el apartado 2 del artículo 6
Los sistemas de IA de alto riesgo con arreglo al apartado 2 del artículo 6 son los sistemas de IA enumerados en cualquiera de los siguientes ámbitos:
1. Los datos biométricos, en la medida en que su uso esté permitido por la legislación nacional o de la Unión pertinente:
(a) sistemas de identificación biométrica a distancia. No se incluirán los sistemas de IA destinados a ser utilizados para la verificación biométrica cuya única finalidad sea confirmar que una persona física concreta es la persona que dice ser;
(b) Sistemas de IA destinados a ser utilizados para la categorización biométrica, según atributos o características sensibles o protegidos, basados en la inferencia de dichos atributos o características;
(c) Sistemas de IA destinados al reconocimiento de emociones.
Relacionado: Considerando 54 y Considerando 159
2. Infraestructuras críticas: Sistemas de IA destinados a ser utilizados como componentes de seguridad en la gestión y explotación de infraestructuras digitales críticas, tráfico rodado, o en el suministro de agua, gas, calefacción o electricidad. Relacionado: Considerando 55
3. Educación y formación profesional:
(a) Sistemas de IA destinados a ser utilizados para determinar el acceso o la admisión o para asignar personas físicas a instituciones educativas y de formación profesional de todos los niveles;
(b) Sistemas de IA destinados a ser utilizados para evaluar los resultados del aprendizaje, incluso cuando dichos resultados se utilizan para dirigir el proceso de aprendizaje de las personas físicas en centros educativos y de formación profesional de todos los niveles;
(c) Sistemas de IA destinados a ser utilizados con el fin de evaluar el nivel adecuado de educación que un individuo recibirá o al que podrá acceder, en el contexto de o dentro de instituciones educativas y de formación profesional a todos los niveles;
(d) Sistemas de IA destinados a ser utilizados para controlar y detectar comportamientos prohibidos de los estudiantes durante las pruebas en el contexto de las instituciones educativas y de formación profesional a todos los niveles o dentro de ellas.
Relacionado: Considerando 56
4. Empleo, gestión de trabajadores y acceso al autoempleo:
(a) Sistemas de IA destinados a ser utilizados para la contratación o selección de personas físicas, en particular para publicar anuncios de empleo específicos, analizar y filtrar solicitudes de empleo y evaluar candidatos;
(b) Sistemas de IA destinados a ser utilizados para tomar decisiones que afecten a las condiciones de las relaciones laborales, la promoción o la finalización de relaciones contractuales laborales, para asignar tareas basadas en el comportamiento individual o en rasgos o características personales o para supervisar y evaluar el rendimiento y el comportamiento de las personas en dichas relaciones.
Relacionado: Recital 57
5. Acceso y disfrute de los servicios privados esenciales y de los servicios y prestaciones públicas esenciales:
(a) Sistemas de IA destinados a ser utilizados por las autoridades públicas o en su nombre para evaluar el derecho de las personas físicas a prestaciones y servicios esenciales de asistencia pública, incluidos los servicios de asistencia sanitaria, así como para conceder, reducir, revocar o reclamar dichas prestaciones y servicios;
(b) Sistemas de IA destinados a ser utilizados para evaluar la solvencia de personas físicas o establecer su puntuación crediticia, a excepción de los sistemas de IA utilizados con el fin de detectar fraudes financieros;
(c) los sistemas de IA destinados a ser utilizados para la evaluación de riesgos y la tarificación en relación con las personas físicas en el caso de los seguros de vida y de enfermedad;
(d) Sistemas de IA destinados a evaluar y clasificar llamadas de emergencia de personas físicas o a ser utilizados para despachar, o establecer la prioridad en el despacho de, servicios de primera respuesta de emergencia, incluidos los de policía, bomberos y asistencia médica, así como de sistemas de triaje de pacientes de asistencia sanitaria de emergencia.
Relacionado: Considerando 58
6. Fuerzas y cuerpos de seguridad, en la medida en que su uso esté permitido por la legislación nacional o de la Unión pertinente:
(a) los sistemas de IA destinados a ser utilizados por las autoridades policiales o judiciales, o en su nombre, o por las instituciones, órganos u organismos de la Unión en apoyo de las autoridades policiales o judiciales o en su nombre, para evaluar el riesgo de que una persona física sea víctima de infracciones penales;
(b) los sistemas de IA destinados a ser utilizados por las autoridades policiales o judiciales, o en su nombre, o por las instituciones, órganos u organismos de la Unión en apoyo de las autoridades policiales o judiciales, como polígrafos o herramientas similares;
(c) sistemas de IA destinados a ser utilizados por las autoridades policiales o en su nombre, o por instituciones, órganos u organismos de la Unión, en apoyo de las autoridades policiales para evaluar la fiabilidad de las pruebas en el curso de la investigación o el enjuiciamiento de infracciones penales;
(d) sistemas de IA destinados a ser utilizados por las fuerzas y cuerpos de seguridad o en su nombre o por instituciones, órganos u organismos de la Unión en apoyo de las fuerzas y cuerpos de seguridad para evaluar el riesgo de que una persona física delinca o reincida no únicamente sobre la base de la elaboración de perfiles de personas físicas a que se refiere el artículo 3, apartado 4, de la Directiva (UE) 2016/680, o para evaluar rasgos y características de la personalidad o comportamientos delictivos anteriores de personas físicas o grupos;
(e) los sistemas de IA destinados a ser utilizados por las autoridades policiales o en su nombre o por las instituciones, órganos u organismos de la Unión en apoyo de las autoridades policiales para la elaboración de perfiles de personas físicas a que se refiere el artículo 3, apartado 4, de la Directiva (UE) 2016/680 en el curso de la detección, investigación o enjuiciamiento de infracciones penales.
Relacionado: Recital 59
7. Gestión de la migración, el asilo y el control de fronteras, en la medida en que su uso esté permitido por la legislación nacional o de la Unión pertinente:
(a) Los sistemas de IA destinados a ser utilizados por las autoridades públicas competentes o por las instituciones, órganos u organismos de la Unión, o en su nombre, como polígrafos o herramientas similares;
(b) sistemas de IA destinados a ser utilizados por las autoridades públicas competentes o por las instituciones, órganos u organismos de la Unión, o en su nombre, para evaluar un riesgo, incluido un riesgo para la seguridad, un riesgo de migración irregular o un riesgo sanitario, planteado por una persona física que pretenda entrar o haya entrado en el territorio de un Estado miembro;
(c) los sistemas de IA destinados a ser utilizados por las autoridades públicas competentes o por las instituciones, órganos u organismos de la Unión, o en su nombre, para asistir a las autoridades públicas competentes en el examen de las solicitudes de asilo, visado o permiso de residencia y en las reclamaciones conexas relativas a la admisibilidad de las personas físicas que solicitan un estatuto, incluidas las evaluaciones conexas de la fiabilidad de las pruebas;
(d) los sistemas de IA destinados a ser utilizados por las autoridades públicas competentes o en su nombre, o por las instituciones, órganos u organismos de la Unión, en el contexto de la gestión de la migración, el asilo o el control de fronteras, con el fin de detectar, reconocer o identificar a personas físicas, con excepción de la verificación de documentos de viaje.
Relacionado: Recital 60
8. Administración de justicia y procesos democráticos:
(a) sistemas de IA destinados a ser utilizados por una autoridad judicial o en su nombre para asistir a una autoridad judicial en la investigación e interpretación de hechos y del Derecho y en la aplicación del Derecho a un conjunto concreto de hechos, o a ser utilizados de forma similar en la resolución alternativa de litigios; Relacionado: Considerando 61
(b) los sistemas de IA destinados a ser utilizados para influir en el resultado de una elección o referéndum o en el comportamiento de voto de personas físicas en el ejercicio de su voto en elecciones o referendos. Esto no incluye los sistemas de IA a cuyos resultados no están expuestas directamente las personas físicas, como las herramientas utilizadas para organizar, optimizar o estructurar campañas políticas desde un punto de vista administrativo o logístico. Relacionado: Considerando 62