Récital 75
La robustesse technique est une exigence clé pour les systèmes d'IA à haut risque. Ils doivent être résistants aux comportements nuisibles ou indésirables pouvant résulter des limites des systèmes ou de l'environnement dans lequel ils fonctionnent (par exemple, erreurs, défauts, incohérences, situations inattendues). Par conséquent, des mesures techniques et organisationnelles doivent être prises pour garantir la robustesse des systèmes d'IA à haut risque, par exemple en concevant et en développant des solutions techniques appropriées pour prévenir ou minimiser les comportements nuisibles ou indésirables. Ces solutions techniques peuvent comprendre, par exemple, des mécanismes permettant au système d'interrompre son fonctionnement en toute sécurité (plans de sécurité intégrée) en présence de certaines anomalies ou lorsque le fonctionnement se déroule en dehors de certaines limites prédéterminées. L'absence de protection contre ces risques pourrait avoir des répercussions sur la sécurité ou affecter négativement les droits fondamentaux, par exemple en raison de décisions erronées ou de résultats erronés ou biaisés générés par le système d'IA.