Der EU AI Act stuft KI in der Bildung als Hochrisiko ein, wenn sie über Menschen urteilt. Anhang III Nummer 3 nennt vier Einsätze: Zulassung, Bewertung von Lernergebnissen, Einstufung ins Bildungsniveau und Aufsicht bei Prüfungen. Betroffen sind Schulen, Hochschulen und Weiterbildungsträger. Betroffen sind auch alle, die Lernplattformen und Prüfungssoftware entwickeln. Die Hochrisiko Pflichten gelten nach dem Digital Omnibus ab dem 2. Dezember 2027. Ein Verbot gilt schon heute.
NCA KI Workshop für Developer: Coding Agents mit Regeln, Tests und Quality Gates, trainiert von Benjamin Klein. Zum Workshop für Developer
Die vier Einsätze aus Anhang III Nummer 3
Nummer 3 trägt die Überschrift allgemeine und berufliche Bildung. Sie gilt für Einrichtungen auf allen Ebenen. Den Wortlaut findet ihr in der KI Verordnung auf EUR-Lex.
| Buchstabe | Einsatz | Beispiel |
|---|---|---|
| a | Zugang und Zulassung bestimmen oder Personen zuweisen | KI sortiert Bewerbungen um Studienplätze |
| b | Lernergebnisse bewerten, auch wenn das den Lernweg steuert | KI benotet Aufsätze oder Programmieraufgaben |
| c | Das passende Bildungsniveau für eine Person bewerten | KI entscheidet, in welche Kursstufe jemand kommt |
| d | Unerlaubtes Verhalten bei Prüfungen überwachen und erkennen | Proctoring Software meldet Täuschungsversuche |
Der Grund steht in Erwägungsgrund 56. Bildung prägt Lebenswege und Chancen im Beruf. Ein fehlerhaftes System kann Menschen das Recht auf Bildung erschweren und alte Muster der Diskriminierung fortschreiben. Deshalb zieht die Verordnung hier eine harte Linie. Dieselbe Logik gilt im Personalbereich, wie der Beitrag zu EU AI Act Hochrisiko im Recruiting zeigt.
Was schon heute verboten ist
Seit dem 2. Februar 2025 ist Emotionserkennung in Bildungseinrichtungen verboten. Erlaubt bleibt sie nur aus medizinischen oder Sicherheitsgründen. Eine Software, die per Webcam auswertet, ob Lernende gelangweilt oder gestresst sind, ist damit tabu. Bei Proctoring Tools lohnt deshalb ein genauer Blick auf die Funktionsliste.
Zwei weitere Regeln laufen ebenfalls schon:
- KI Kompetenz nach Artikel 4: Wer KI im Betrieb nutzt, muss Maßnahmen ergreifen, damit Lehrende und Verwaltung damit umgehen können. Mehr dazu im Beitrag zur KI Kompetenz Pflicht nach Artikel 4.
- Transparenz nach Artikel 50: Ein KI Tutor im Chat muss sich als KI zu erkennen geben. Das gilt seit dem 2. August 2026.
Wann Bildungs KI kein Hochrisiko ist
Nicht jede KI im Klassenraum steht auf der Liste. Ein Tool, das Übungsaufgaben erstellt, Material zusammenfasst oder Vokabeln abfragt, ohne Menschen zu bewerten, fällt in der Regel nicht unter Anhang III.
Für Systeme, die auf der Liste stehen, kennt Artikel 6 Absatz 3 Ausnahmen. Kein Hochrisiko liegt vor, wenn die KI nur eine eng begrenzte Verfahrensaufgabe erledigt, eine fertige menschliche Arbeit verbessert oder eine Bewertung nur vorbereitet. Eine Grenze bleibt fest: Betreibt das System Profiling von Personen, ist es immer Hochrisiko. Wer sich auf die Ausnahme beruft, muss das dokumentieren.
Pflichten für Schulen und Hochschulen als Betreiber
Die meisten Einrichtungen kaufen Software ein. Sie sind damit Betreiber. Ab Dezember 2027 gelten für sie die Pflichten aus Artikel 26:
- Das System nach der Gebrauchsanweisung nutzen.
- Die menschliche Aufsicht an geschulte Leute mit der nötigen Befugnis geben.
- Eingabedaten passend und repräsentativ halten, soweit ihr sie steuert.
- Den Betrieb beobachten und bei Risiken den Anbieter informieren.
- Automatische Protokolle mindestens sechs Monate aufbewahren.
- Lernende informieren, dass ein Hochrisiko System an Entscheidungen über sie beteiligt ist.
Öffentliche Schulen und Hochschulen haben eine Aufgabe mehr. Nach Artikel 27 brauchen öffentliche Stellen und private Träger öffentlicher Dienste vor dem Einsatz eine Grundrechte Folgenabschätzung. Der Digital Omnibus hat geregelt, wie sie mit der Datenschutz Folgenabschätzung zusammenspielt, damit ihr nicht alles doppelt schreibt.
Die Grauzone, wenn Lehrende mit dem Chatbot benoten
Der häufigste Fall kommt ohne Einkauf aus. Eine Lehrkraft kopiert Aufsätze in einen Chatbot und lässt sich Noten vorschlagen. Damit wird ein allgemeines KI System für einen Zweck aus Anhang III genutzt. Nach Artikel 25 kann, wer den Zweck so ändert, selbst in die Rolle des Anbieters rutschen. Dazu kommt der Datenschutz, denn Texte von Lernenden sind personenbezogene Daten.
Eine klare Regel hilft allen. KI darf beim Formulieren von Feedback helfen. Die Bewertung trifft der Mensch. Echte Daten von Lernenden gehören nicht in ein Tool ohne Freigabe. Unser Grundsatz bei NCA: Mit anonymisierten Daten in einem lokalen Setup könnt ihr fast jede KI nutzen. Was in eine solche Regelung gehört, zeigt der Beitrag zur KI Nutzungsrichtlinie.
NCA KI Workshop für alle Abteilungen: Ein Tag, an dem euer Team mit KI ein echtes Werkzeug baut und lernt, wo die Grenze liegt. Zum Workshop für alle Abteilungen
Was EdTech Teams bis Dezember 2027 bauen müssen
Wer Lernplattformen oder Prüfungssoftware mit Bewertungsfunktion entwickelt, ist Anbieter. Die Liste ist lang:
- Risikomanagement über den ganzen Lebenszyklus (Artikel 9)
- Daten Governance und Prüfung auf Verzerrungen (Artikel 10)
- Technische Dokumentation (Artikel 11)
- Automatische Protokolle (Artikel 12)
- Gebrauchsanweisung für Betreiber (Artikel 13)
- Menschliche Aufsicht im Design (Artikel 14)
- Genauigkeit, Robustheit und Cybersicherheit (Artikel 15)
- Qualitätsmanagement, Konformitätsbewertung und Registrierung in der EU Datenbank
Viel davon ist gute Softwarequalität. Protokolle, die lückenlos schreiben. Tests, die zeigen, dass niemand die menschliche Freigabe umgehen kann. Eine Pipeline, die jede Änderung prüft. Genau hier arbeitet NCA: erst Quality Gates mit statischer Analyse, Unit Tests und Cypress E2E Tests, dann KI gestützte Entwicklung. Wie sich Tests verschieben, wenn Agenten mitschreiben, lest ihr im Beitrag zur Testpyramide für KI Agents. Wie wir Cypress Tests mit Agenten absichern, zeigt der Beitrag zum Cypress AI Toolkit.
So startet ihr
- Tools erfassen: Welche Software bewertet, sortiert oder überwacht Lernende? Einen Einstieg bietet der EU AI Act Compliance Checker.
- Emotionserkennung abschalten: Prüft Proctoring und Lernanalyse auf Funktionen, die Gefühle auswerten. Verstöße gegen Verbote kosten am meisten, wie der Beitrag zum Bußgeld nach der KI Verordnung zeigt.
- Rolle klären: Betreiber oder Anbieter? Fragt eure Hersteller, wie sie sich auf Dezember 2027 vorbereiten.
- Regel für Lehrende schreiben: Feedback mit KI ja, Note durch den Menschen.
Die Aufsicht liegt in Deutschland in vielen Fällen bei der Bundesnetzagentur. Sie informiert in einer Pressemitteilung zur KI Verordnung. Die neuen Fristen stehen in der Digital Omnibus Verordnung auf EUR-Lex.
Das ist eine allgemeine Information und keine Rechtsberatung. Alle Rechtsangaben haben den Stand Oktober 2026.
Fazit
KI in der Bildung wird zum Hochrisiko Fall, sobald sie über Zulassung, Noten, Einstufung oder Prüfungen mitentscheidet. Emotionserkennung ist schon verboten, der Rest folgt im Dezember 2027. Schulen und Hochschulen brauchen klare Regeln für Lehrende. EdTech Teams brauchen vor allem saubere Software mit Tests, Protokollen und echter menschlicher Freigabe.
Zuverlässige Software mit KI bauen
Im NCA KI Workshop für Developer lernt euer Team, Coding Agents mit Regeln, Tests und Quality Gates sicher einzusetzen. Für die ganze Belegschaft gibt es den Workshop für alle Abteilungen. Im kostenlosen Vorgespräch klären wir Gruppe, Ziele und Termin.
