Recital 61
Determinados sistemas de IA destinados a la administración de justicia y a los procesos democráticos deben clasificarse como de alto riesgo, teniendo en cuenta su impacto potencialmente significativo en la democracia, el Estado de Derecho, las libertades individuales, así como el derecho a un recurso efectivo y a un juicio justo. En particular, para hacer frente a los riesgos de posibles sesgos, errores y opacidad, conviene calificar de alto riesgo los sistemas de IA destinados a ser utilizados por una autoridad judicial o en su nombre para asistir a las autoridades judiciales en la investigación e interpretación de los hechos y de la ley y en la aplicación de la ley a un conjunto concreto de hechos. Los sistemas de IA destinados a ser utilizados por los órganos de resolución alternativa de litigios para estos fines también deben considerarse de alto riesgo cuando los resultados de los procedimientos de resolución alternativa de litigios produzcan efectos jurídicos para las partes. El uso de herramientas de IA puede apoyar el poder de decisión de los jueces o la independencia judicial, pero no debe sustituirlo: la toma de decisiones final debe seguir siendo una actividad humana. No obstante, la clasificación de los sistemas de IA como de alto riesgo no debe extenderse a los sistemas de IA destinados a actividades administrativas puramente auxiliares que no afecten a la administración real de justicia en casos concretos, como la anonimización o seudonimización de resoluciones judiciales, documentos o datos, la comunicación entre el personal o las tareas administrativas.
El presente considerando se refiere a
Artículo 6: Normas de clasificación de los sistemas de IA de alto riesgo
Anexo III: Sistemas de IA de alto riesgo contemplados en el apartado 2 del artículo 6