Recital 75
La solidez técnica es un requisito clave para los sistemas de IA de alto riesgo. Deben ser resistentes a los comportamientos nocivos o indeseables que puedan derivarse de las limitaciones de los sistemas o del entorno en el que operan (por ejemplo, errores, fallos, incoherencias, situaciones inesperadas). Por lo tanto, deben adoptarse medidas técnicas y organizativas para garantizar la solidez de los sistemas de IA de alto riesgo, por ejemplo diseñando y desarrollando soluciones técnicas adecuadas para prevenir o minimizar los comportamientos nocivos o indeseables. Estas soluciones técnicas pueden incluir, por ejemplo, mecanismos que permitan al sistema interrumpir su funcionamiento de forma segura (planes a prueba de fallos) en presencia de determinadas anomalías o cuando el funcionamiento tenga lugar fuera de ciertos límites predeterminados. La falta de protección contra estos riesgos podría tener repercusiones en la seguridad o afectar negativamente a los derechos fundamentales, por ejemplo debido a decisiones erróneas o resultados equivocados o sesgados generados por el sistema de IA.