Erwägungsgrund 133
Eine Vielzahl von KI-Systemen kann große Mengen synthetischer Inhalte generieren, die für den Menschen immer schwieriger von von Menschen erstellten und authentischen Inhalten zu unterscheiden sind. Die breite Verfügbarkeit und die zunehmenden Fähigkeiten dieser Systeme haben erhebliche Auswirkungen auf die Integrität und das Vertrauen in das Informationsökosystem und bergen neue Risiken in Bezug auf Fehlinformationen und Manipulation in großem Maßstab, Betrug, Nachahmung und Verbrauchertäuschung. In Anbetracht dieser Auswirkungen, des raschen technologischen Fortschritts und der Notwendigkeit neuer Methoden und Techniken zur Rückverfolgung der Herkunft von Informationen sollten die Anbieter dieser Systeme verpflichtet werden, technische Lösungen einzubauen, die eine Kennzeichnung in einem maschinenlesbaren Format und die Feststellung ermöglichen, dass die Ausgabe von einem KI-System und nicht von einem Menschen erzeugt oder manipuliert worden ist. Diese Techniken und Methoden sollten hinreichend zuverlässig, interoperabel, wirksam und robust sein, soweit dies technisch machbar ist, wobei verfügbare Techniken oder eine Kombination solcher Techniken, wie z. B. Wasserzeichen, Metadaten-Kennzeichnungen, kryptografische Methoden zum Nachweis der Herkunft und Authentizität von Inhalten, Protokollierungsmethoden, Fingerabdrücke oder andere Techniken, zu berücksichtigen sind. Bei der Umsetzung dieser Verpflichtung sollten die Anbieter auch die Besonderheiten und Grenzen der verschiedenen Arten von Inhalten sowie die einschlägigen technologischen und marktwirtschaftlichen Entwicklungen in diesem Bereich berücksichtigen, wie sie sich aus dem allgemein anerkannten Stand der Technik ergeben. Solche Techniken und Methoden können auf der Ebene des KI-Systems oder auf der Ebene des KI-Modells, einschließlich KI-Modellen für allgemeine Zwecke, die Inhalte generieren, implementiert werden, wodurch die Erfüllung dieser Verpflichtung durch den nachgeschalteten Anbieter des KI-Systems erleichtert wird. Um die Verhältnismäßigkeit zu wahren, sollte diese Kennzeichnungspflicht nicht für KI-Systeme gelten, die in erster Linie eine unterstützende Funktion für die Standardbearbeitung erfüllen, oder für KI-Systeme, die die vom Anwender bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern.
Dieser Erwägungsgrund bezieht sich auf
Artikel 50: Transparenzverpflichtungen für Anbieter und Betreiber von bestimmten KI-Systemen