Recital 133
Diversos sistemas de IA pueden generar grandes cantidades de contenidos sintéticos que resultan cada vez más difíciles de distinguir para los humanos de los contenidos auténticos y generados por ellos. La amplia disponibilidad y las crecientes capacidades de esos sistemas tienen un impacto significativo en la integridad y la confianza en el ecosistema de la información, planteando nuevos riesgos de desinformación y manipulación a escala, fraude, suplantación de identidad y engaño al consumidor. A la luz de esas repercusiones, del rápido ritmo tecnológico y de la necesidad de nuevos métodos y técnicas para rastrear el origen de la información, conviene exigir a los proveedores de esos sistemas que incorporen soluciones técnicas que permitan el marcado en un formato legible por máquina y la detección de que el resultado ha sido generado o manipulado por un sistema de IA y no por un ser humano. Dichas técnicas y métodos deben ser suficientemente fiables, interoperables, eficaces y sólidos en la medida en que sea técnicamente viable, teniendo en cuenta las técnicas disponibles o una combinación de dichas técnicas, como marcas de agua, identificaciones de metadatos, métodos criptográficos para demostrar la procedencia y autenticidad de los contenidos, métodos de registro, huellas dactilares u otras técnicas, según proceda. Al aplicar esta obligación, los proveedores también deben tener en cuenta las especificidades y las limitaciones de los distintos tipos de contenidos y los avances tecnológicos y de mercado pertinentes en este ámbito, tal como se reflejan en el estado de la técnica generalmente reconocido. Dichas técnicas y métodos pueden aplicarse a nivel del sistema de IA o a nivel del modelo de IA, incluidos los modelos de IA de propósito general que generan contenidos, facilitando así el cumplimiento de esta obligación por parte del proveedor posterior del sistema de IA. Para mantener la proporcionalidad, conviene prever que esta obligación de marcado no cubra los sistemas de IA que desempeñen principalmente una función de asistencia para la edición estándar o los sistemas de IA que no alteren sustancialmente los datos de entrada proporcionados por el usuario o la semántica de los mismos.