Gesetz über künstliche Intelligenz

Häufig gestellte Fragen – EU-Gesetz über künstliche Intelligenz

1. Was regelt das KI-Gesetz?

Das Gesetz gilt für alle KI-Systeme, die auf dem EU-Markt in Verkehr gebracht oder innerhalb der EU verwendet werden (auch wenn der Anbieter außerhalb der EU sitzt). Es legt gemeinsame Regeln für den Verkauf, den Einsatz und die Nutzung von KI fest. Dazu gehören: das Verbot bestimmter schädlicher Praktiken (Art. 5); strenge Anforderungen an "Hochrisiko-KI" (z. B. in kritischen Sektoren); Transparenzpflichten (z. B. Offenlegung und Kennzeichnung); sowie eine EU-Datenbank und Aufsichtsmechanismen. Auch große KI-Modelle mit allgemeinem Zweck (wie große Sprachmodelle) werden reguliert und müssen getestet und überwacht werden.

2. Wer muss das Gesetz einhalten?

Es gilt für eine Vielzahl von Akteuren. Anbieter von KI-Systemen (die sie entwickeln und in Verkehr bringen) müssen sich daran halten, unabhängig davon, ob sie in der EU oder außerhalb ansässig sind (wenn die KI in der EU genutzt wird). Auch Nutzer (die ein KI-System unter ihrer Kontrolle verwenden), Importeure, Händler und Hersteller, die KI in Produkte integrieren, sind betroffen. Auch außerhalb der EU ansässige Unternehmen, die KI auf dem EU-Markt anbieten, müssen die Vorschriften einhalten. Ausnahmen bestehen für militärische Nutzung, privaten Gebrauch im Haushalt und reine F&E ohne Markteintritt.

3. Was sind "Hochrisiko-KI-Systeme"?

Hochrisiko-Systeme sind solche, die die Gesundheit, Sicherheit oder Grundrechte von Personen erheblich beeinträchtigen können. Dazu gehört KI, die in kritischer Infrastruktur, medizinischen Geräten, Personalrekrutierung, Bildung und Prüfungen, öffentlichen Diensten (z. B. Sozialhilfe), Strafverfolgung, Grenzkontrolle sowie Rechts- und demokratischen Prozessen eingesetzt wird. Solche Systeme müssen umfangreiche Anforderungen erfüllen: Tests, Dokumentation, Konformitätsbewertung.

4. Welche KI-Praktiken sind verboten?

Artikel 5 verbietet:

• Manipulative oder unterschwellige KI, die Verhalten verzerrt
• Soziale Bewertungssysteme, die Personen unfair bewerten
• Unzulässige prädiktive Polizeiarbeit mittels Profiling
• Biometrische Kategorisierung, um sensible Merkmale zu erschließen
• Emotionserkennung in Schulen/Arbeitsplätzen (mit Ausnahmen)
• Ungezieltes Sammeln biometrischer Daten aus Gesichtern

Echtzeit-Gesichtserkennung durch Strafverfolgungsbehörden ist ebenfalls verboten, außer unter strengen Auflagen.

5. Was müssen Unternehmen tun, um konform zu sein?

Anbieter von Hochrisiko-KI müssen:

• Ein Risikomanagement- und Qualitätssystem einrichten
• Technische Dokumentation und Aktivitätsprotokolle führen
• Eine Konformitätsbewertung vor der Markteinfuhr durchführen
• Eine EU-Konformitätserklärung abgeben und CE-Kennzeichnung anbringen
• Nutzungsanleitungen und Warnhinweise bereitstellen

Zudem ist die Überwachung der Leistung und das Melden schwerwiegender Zwischenfälle erforderlich.

6. Wie wirkt sich das Gesetz auf Unternehmen und Entwickler aus?

Unternehmen müssen mehr Aufwand betreiben, etwa durch Dokumentation, Tests und Umgestaltung bei Hochrisiko-KI. Das Gesetz ersetzt jedoch zersplitterte nationale Vorschriften durch ein einheitliches EU-Regelwerk. Es fördert Innovation über Testumgebungen ("regulatory sandboxes") und Erleichterungen für KMU. Auch außerhalb der EU tätige Anbieter müssen sich anpassen, wenn sie den EU-Markt ansprechen.

7. Wie wird das Gesetz durchgesetzt und welche Strafen gibt es?

Nationale Aufsichtsbehörden überwachen die Umsetzung. Sanktionen umfassen:

• Bis zu 35 Millionen Euro oder 7% des weltweiten Umsatzes für verbotene Praktiken
• Bis zu 15 Millionen oder 3% für Nichtbeachtung von Hochrisiko-Vorgaben
• Bis zu 7,5 Millionen oder 1% für falsche Angaben

Behörden können Systeme prüfen, Dokumente anfordern und Korrekturen verlangen.

8. Welche Transparenzanforderungen gibt es?

Wichtige Pflichten:

• Benachrichtigung der Nutzer bei Interaktion mit KI
• Kennzeichnung synthetischer Inhalte und Deepfakes
• Offenlegung von Emotionserkennung und biometrischer Kategorisierung
• Markierung KI-generierter Inhalte als künstlich

Diese Regeln helfen Nutzern zu erkennen, wann sie mit KI interagieren und wie Entscheidungen entstehen.

9. Wird das Gesetz Innovation bremsen oder Nutzern schaden?

Das Gesetz will Sicherheit und Innovation ausbalancieren. Es konzentriert sich auf die größten Risiken und erlaubt die meisten KI-Anwendungen frei. Innovationsförderung erfolgt durch klare Regeln und Testumgebungen, was das Vertrauen erhöhen kann.

10. Wann tritt das Gesetz in Kraft?

Das Gesetz wurde im Juni 2024 veröffentlicht und trat 20 Tage später in Kraft. Die meisten Regelungen gelten ab dem 2. August 2026. Einige Teile (wie das Verbot bestimmter Praktiken) gelten bereits ab dem 2. Februar 2025, weitere folgen schrittweise. Unternehmen sollten sich frühzeitig vorbereiten.