EU AI Act
Ist der EU AI Act ein KI-Verbot?
Geltungsbereich: EU-Rahmen · Deutschland · Österreich · Schweiz
01Klare rote Linien statt Pauschalstopp
In vielen Kollegien und Hochschulleitungen hält sich die Sorge, der europäische AI Act mache den Einsatz moderner KI-Werkzeuge faktisch unmöglich. Das Gegenteil ist der Fall: Die Verordnung (EU) 2024/1689 soll einen verlässlichen Rechtsrahmen schaffen, der Innovation fördert und gleichzeitig Grundrechte schützt.
Ein echtes Nutzungsverbot existiert nur für eine eng begrenzte Liste unannehmbarer Risiken nach Art. 5 AI Act:
- Verboten: Biometrische Emotionserkennung
- Systeme, die anhand biometrischer Daten (wie Gesichtszügen oder Stimmlage) den emotionalen Zustand von Lernenden oder Lehrenden in Bildungseinrichtungen erfassen sollen, sind nach Art. 5 Abs. 1 lit. f ausdrücklich untersagt (Ausnahme: rein medizinische oder sicherheitsrelevante Zwecke).
- Verboten: Verhaltensmanipulation
- KI-Systeme, die unterschwellige Techniken einsetzen oder Schutzbedürftigkeiten (wie Alter oder Behinderung) ausnutzen, um Personen zu Entscheidungen zu verleiten, die ihnen oder Dritten physischen oder psychischen Schaden zufügen.
- Verboten: Social Scoring
- Die behördliche oder gesellschaftliche Bewertung der Vertrauenswürdigkeit von Menschen über Lebensbereiche hinweg anhand ihres allgemeinen Sozialverhaltens.
02„Nicht hochriskant“ heißt nicht „regellos“
Die allermeisten KI-Werkzeuge, die Lehrkräfte und Studierende im Alltag nutzen – Textgeneratoren für Entwürfe, Übersetzungsdienste, Code-Assistenten oder Ideenfinder –, fallen nicht unter diese Verbote und sind in der Regel auch keine Hochrisikosysteme nach Anhang III.
Daraus folgt jedoch kein rechtsfreier Raum:
03Gestaltungsraum aktiv nutzen
Pauschale Schul- oder Campusverbote erweisen sich in der Praxis meist als wirkungslos, weil sie die Realität privater Nutzung ausblenden und Medienkompetenz verhindern. Stattdessen empfiehlt sich ein gestufter, pragmatischer Ansatz:
04Regionale Geltung im DACH-Raum
DeutschlandKMK-Handlungsempfehlungen & Verbotsverzicht
- Unmittelbare Geltung: Die Verbote des Art. 5 AI Act greifen in Deutschland seit dem 2. Februar 2025 direkt.
- KMK-Leitlinie 2024: Die Kultusministerkonferenz verfolgt einen konstruktiv-kritischen Ansatz: Potenziale für das Lernen nutzen, Prüfungskultur weiterentwickeln, Lehrpersonen professionalisieren und chancengerechten Zugang berücksichtigen. Die konkrete Regelung bleibt Sache der Länder und Einrichtungen.
- Dienstliche Bereitstellung: Mehrere Bundesländer (z. B. Baden-Württemberg, Bayern, Hessen) stellen eigene, datenschutzkonforme KI-Assistenten für Schulen bereit.
ÖsterreichVerbotsverzicht & Digitale Grundbildung
- Rechtsstand: Art. 5 AI Act gilt unmittelbar. Für Schulen und Universitäten bedeutet dies vor allem das Verbot automatisierter Emotionsüberwachung.
- BMB-Position: Das Ministerium setzt auf kritische Medienkompetenz und didaktische Leitfäden für Abschlussarbeiten statt auf Verbote.
- SchUG und LBVO: Für schulische Leistungsbeurteilung sind insbesondere § 18 SchUG und § 11 LBVO relevant. Ob eine konkrete Leistung vorgetäuscht wurde, ist nach Aufgabenstellung, Hilfsmittelregel und Verfahren zu klären; die bloße Nutzung von KI beantwortet diese Frage nicht automatisch.
SchweizKantonale Hoheit & Educa-Orientierung
- Keine unmittelbare EU-Regelung: Der AI Act gilt nicht direkt; der Bundesrat bereitet die Ratifizierung der Europarats-KI-Konvention vor.
- Kantonale Autonomie: Die 26 Kantone regeln Schul- und Bildungsvorschriften eigenständig. Leitfäden kantonaler Erziehungsdirektionen und das Schweizer Fachdossier von Educa betonen übereinstimmend den risikobasierten Einbezug ohne Totalverbote.
- Minderjährige: Eine einheitliche gesetzliche KI-Altersgrenze gibt es nicht. Urteilsfähigkeit nach Art. 16 ZGB, Datenschutz, Vertrag, Aufsicht und schulische Zuständigkeit sind getrennte Fragen; aus Urteilsfähigkeit folgt keine pauschale Freigabe eines Dienstes.
Quellen und Einordnung
- KI-Verordnung (EU) 2024/1689, konsolidiert 27. Juli 2026Rechtsquelle: Art. 4 KI-Kompetenz; Art. 5 verbotene Praktiken; Art. 6 Abs. 2–4; Art. 25 Rollenwechsel; Art. 26 und 27; Anhang III Z 3 Bildung und Berufsbildung.
- Verordnung (EU) 2026/1744 – Digital Omnibus zur KI-VerordnungRechtsquelle: Art. 4 verlangt nun Maßnahmen zur Unterstützung der Entwicklung von KI-Kompetenz und enthält den geänderten Anwendungszeitplan für die Kapitel-III-Pflichten bei Anhang-III-Systemen.
- KMK: Handlungsempfehlung zum Umgang mit KI in schulischen BildungsprozessenBeschluss vom 10. Oktober 2024: Potenziale für Lernen nutzen, Prüfungskultur weiterentwickeln, Lehrkräfte professionalisieren und chancengerechten Zugang fördern.
- Europarat: Rahmenkonvention über Künstliche IntelligenzVölkerrechtlicher Vertrag über KI, Menschenrechte, Demokratie und Rechtsstaatlichkeit; Referenzrahmen unter anderem für die Schweiz.
Hinweis. Diese Seite bietet allgemeine Orientierung anhand öffentlich zugänglicher Quellen. Sie ist keine Rechtsberatung, kein Erlass und keine Auskunft einer Behörde. Für einen konkreten Fall kann eine Abklärung mit der zuständigen Stelle nötig sein. Redaktioneller Stand: 25. September 2026.