Erwägungsgrund 57

KI-Systeme, die im Bereich der Beschäftigung, der Verwaltung von Arbeitnehmern und des Zugangs zur Selbstständigkeit eingesetzt werden, insbesondere für die Einstellung und Auswahl von Personen, für Entscheidungen, die sich auf die Bedingungen des Arbeitsverhältnisses, die Beförderung und die Beendigung von arbeitsbezogenen Vertragsverhältnissen auswirken, für die Zuweisung von Aufgaben auf der Grundlage von individuellem Verhalten, persönlichen Merkmalen oder Eigenschaften und für die Überwachung oder Bewertung von Personen in arbeitsbezogenen Vertragsverhältnissen, sollten ebenfalls als risikoreich eingestuft werden, da diese Systeme erhebliche Auswirkungen auf die künftigen Berufsaussichten, den Lebensunterhalt dieser Personen und die Rechte der Arbeitnehmer haben können. Einschlägige arbeitsvertragliche Beziehungen sollten in sinnvoller Weise Arbeitnehmer und Personen einbeziehen, die Dienstleistungen über Plattformen im Sinne des Arbeitsprogramms 2021 der Kommission erbringen. Während des Einstellungsverfahrens und bei der Bewertung, Beförderung oder Weiterbeschäftigung von Personen in arbeitsbezogenen Vertragsverhältnissen können solche Systeme historische Diskriminierungsmuster fortschreiben, zum Beispiel gegenüber Frauen, bestimmten Altersgruppen, Menschen mit Behinderungen oder Personen bestimmter Rassen, ethnischer Herkunft oder sexueller Ausrichtung. KI-Systeme, die zur Überwachung der Leistung und des Verhaltens solcher Personen eingesetzt werden, können auch deren Grundrechte auf Datenschutz und Privatsphäre untergraben.

Dieser Erwägungsgrund bezieht sich auf

Artikel 6: Klassifizierungsregeln für KI-Systeme mit hohem Risiko

Anhang III: In Artikel 6 Absatz 2 genannte AI-Systeme mit hohem Risiko