Récital 76
La cybersécurité joue un rôle crucial pour garantir la résilience des systèmes d'IA face aux tentatives d'altération de leur utilisation, de leur comportement, de leurs performances ou de compromission de leurs propriétés de sécurité par des tiers malveillants exploitant les vulnérabilités du système. Les cyberattaques contre les systèmes d'IA peuvent exploiter des actifs spécifiques à l'IA, tels que des ensembles de données d'entraînement (par exemple, empoisonnement de données) ou des modèles entraînés (par exemple, attaques adverses ou inférence d'appartenance), ou exploiter des vulnérabilités dans les actifs numériques du système d'IA ou dans l'infrastructure TIC sous-jacente. Pour garantir un niveau de cybersécurité adapté aux risques, des mesures appropriées, telles que des contrôles de sécurité, devraient donc être prises par les fournisseurs de systèmes d'IA à haut risque, en tenant également compte, le cas échéant, de l'infrastructure TIC sous-jacente.