Erwägungsgrund 76
Die Cybersicherheit spielt eine entscheidende Rolle bei der Gewährleistung der Widerstandsfähigkeit von KI-Systemen gegen Versuche, ihre Nutzung, ihr Verhalten und ihre Leistung zu verändern oder ihre Sicherheitseigenschaften durch böswillige Dritte, die die Schwachstellen des Systems ausnutzen, zu beeinträchtigen. Cyberangriffe auf KI-Systeme können KI-spezifische Ressourcen wie Trainingsdatensätze (z. B. Data Poisoning) oder trainierte Modelle (z. B. gegnerische Angriffe oder Membership Inference) nutzen oder Schwachstellen in den digitalen Ressourcen des KI-Systems oder der zugrunde liegenden IKT-Infrastruktur ausnutzen. Um ein den Risiken angemessenes Maß an Cybersicherheit zu gewährleisten, sollten die Anbieter von KI-Systemen mit hohem Risiko daher geeignete Maßnahmen, wie z. B. Sicherheitskontrollen, ergreifen und dabei gegebenenfalls auch die zugrunde liegende IKT-Infrastruktur berücksichtigen.