Erwägungsgrund 132

Bestimmte KI-Systeme, die dazu bestimmt sind, mit natürlichen Personen zu interagieren oder Inhalte zu generieren, können unabhängig davon, ob sie als Hochrisikosysteme eingestuft werden oder nicht, ein besonderes Risiko der Nachahmung oder Täuschung bergen. Unter bestimmten Umständen sollte die Nutzung dieser Systeme daher unbeschadet der Anforderungen und Verpflichtungen für KI-Systeme mit hohem Risiko und vorbehaltlich gezielter Ausnahmen, die den besonderen Bedürfnissen der Strafverfolgung Rechnung tragen, besonderen Transparenzverpflichtungen unterworfen werden. Insbesondere sollten natürliche Personen darüber informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist aus der Sicht einer natürlichen Person, die unter Berücksichtigung der Umstände und des Kontexts der Nutzung angemessen informiert, aufmerksam und umsichtig ist, offensichtlich. Bei der Umsetzung dieser Verpflichtung sollten die Merkmale natürlicher Personen, die aufgrund ihres Alters oder einer Behinderung zu schutzbedürftigen Gruppen gehören, insoweit berücksichtigt werden, als das KI-System auch für die Interaktion mit diesen Gruppen bestimmt ist. Darüber hinaus sollten natürliche Personen benachrichtigt werden, wenn sie KI-Systemen ausgesetzt sind, die durch die Verarbeitung ihrer biometrischen Daten die Gefühle oder Absichten dieser Personen erkennen oder ableiten oder sie bestimmten Kategorien zuordnen können. Solche besonderen Kategorien können sich auf Aspekte wie Geschlecht, Alter, Haarfarbe, Augenfarbe, Tätowierungen, persönliche Merkmale, ethnische Herkunft, persönliche Vorlieben und Interessen beziehen. Solche Informationen und Mitteilungen sollten in einem für Menschen mit Behinderungen zugänglichen Format bereitgestellt werden.

Dieser Erwägungsgrund bezieht sich auf

Artikel 50: Transparenzverpflichtungen für Anbieter und Betreiber von bestimmten KI-Systemen