Recital 76
La ciberseguridad desempeña un papel crucial a la hora de garantizar que los sistemas de IA sean resistentes a los intentos de alterar su uso, comportamiento y rendimiento, o de comprometer sus propiedades de seguridad por parte de terceros malintencionados que exploten las vulnerabilidades del sistema. Los ciberataques contra los sistemas de IA pueden aprovechar activos específicos de la IA, como conjuntos de datos de entrenamiento (por ejemplo, envenenamiento de datos) o modelos entrenados (por ejemplo, ataques de adversarios o inferencia de miembros), o explotar vulnerabilidades en los activos digitales del sistema de IA o en la infraestructura de TIC subyacente. Para garantizar un nivel de ciberseguridad adecuado a los riesgos, los proveedores de sistemas de IA de alto riesgo deben adoptar medidas adecuadas, como controles de seguridad, teniendo también en cuenta, según proceda, la infraestructura de TIC subyacente.