Erwägungsgrund 56

Der Einsatz von KI-Systemen im Bildungswesen ist wichtig, um eine qualitativ hochwertige digitale Bildung und Ausbildung zu fördern und allen Lernenden und Lehrenden die Möglichkeit zu geben, die notwendigen digitalen Fähigkeiten und Kompetenzen, einschließlich Medienkompetenz und kritisches Denken, zu erwerben und weiterzugeben, um aktiv an der Wirtschaft, der Gesellschaft und an demokratischen Prozessen teilzunehmen. Allerdings sollten KI-Systeme, die in der allgemeinen oder beruflichen Bildung eingesetzt werden, insbesondere zur Bestimmung des Zugangs oder der Zulassung, zur Zuweisung von Personen zu Bildungs- und Berufsbildungseinrichtungen oder -programmen auf allen Ebenen, zur Bewertung der Lernergebnisse von Personen, zur Bewertung des angemessenen Bildungsniveaus für eine Person und zur wesentlichen Beeinflussung des Niveaus der allgemeinen und beruflichen Bildung, das Einzelpersonen erhalten oder zu dem sie Zugang haben, oder zur Überwachung und Erkennung von unzulässigem Verhalten von Schülern während Prüfungen als KI-Systeme mit hohem Risiko eingestuft werden, da sie den Bildungs- und Berufsweg einer Person bestimmen und daher die Fähigkeit dieser Person, ihren Lebensunterhalt zu sichern, beeinflussen können. Bei unsachgemäßer Gestaltung und Verwendung können solche Systeme besonders eingreifend sein und das Recht auf Bildung und Ausbildung sowie das Recht, nicht diskriminiert zu werden, verletzen und historisch gewachsene Diskriminierungsmuster fortsetzen, z. B. gegenüber Frauen, bestimmten Altersgruppen, Personen mit Behinderungen oder Personen bestimmter Rassen, ethnischer Herkunft oder sexueller Ausrichtung.

Dieser Erwägungsgrund bezieht sich auf

Artikel 6: Klassifizierungsregeln für KI-Systeme mit hohem Risiko

Anhang III: In Artikel 6 Absatz 2 genannte AI-Systeme mit hohem Risiko