KI-Zulassung an Hochschulen — Hochrisiko nach Annex III

Use-Case-Definition

Gegenstand dieser Page sind KI-Systeme, die über den Zugang zu Einrichtungen der allgemeinen und beruflichen Bildung entscheiden oder diese Entscheidung vorbereiten. Erfasst sind Ranking- und Vorauswahl-Systeme in Hochschul-Bewerbungsportalen, algorithmische Bewertung von Motivationsschreiben und Essays, Eignungs- und Passungs-Scores für Studiengänge, Systeme zur Zuweisung von Bewerberinnen und Bewerbern auf Standorte, Fachrichtungen oder Leistungsniveaus sowie entsprechende Verfahren an Berufsschulen, Akademien und privaten Bildungsanbietern. Gemeinsamer Kern ist, dass ein Modell aus personenbezogenen Merkmalen eine Aussage über Zugang, Zulassung oder Zuweisung einer Person zu einer Bildungseinrichtung ableitet.

Abzugrenzen ist der Use-Case in drei Richtungen. Erstens gegenüber der Bewertungs-KI in Prüfungen, die Lernergebnisse während der Ausbildung beurteilt — ein eigener Hochrisiko-Tatbestand mit eigenem Pflichtenprofil. Zweitens gegenüber Proctoring-Software zur Prüfungsüberwachung, die technisch und rechtlich anders gelagert ist. Drittens gegenüber rein administrativer Software ohne Bewertungslogik: Ein Portal, das Fristen prüft, Unterlagen auf Vollständigkeit kontrolliert und Ergebnisse nach einer festen, offengelegten Rechenregel des Gesetzgebers sortiert, trifft keine algorithmische Eignungsbewertung im Sinne des Tatbestands.

Annex-III-Verortung

Der Use-Case ist in Annex III Nummer 3 des EU AI Act (Verordnung (EU) 2024/1689) verortet — dem Bereich „Allgemeine und berufliche Bildung". Buchstabe a erfasst dort KI-Systeme, die bestimmungsgemäß für die Feststellung des Zugangs oder der Zulassung oder für die Zuweisung natürlicher Personen zu Einrichtungen der allgemeinen und beruflichen Bildung auf allen Ebenen verwendet werden sollen. „Auf allen Ebenen" ist dabei wörtlich zu nehmen: Der Tatbestand endet nicht bei der Hochschule, sondern reicht von der Schulaufnahme über die Berufsausbildung bis zur wissenschaftlichen Weiterbildung. Öffentliche wie private Träger sind gleichermaßen erfasst.

Entscheidend ist die Zweckbestimmung, nicht die technische Ausgereiftheit. Auch ein einfaches Punkte- oder Ranking-Modell fällt unter den Tatbestand, wenn es bestimmungsgemäß Zulassungsentscheidungen steuert. Umgekehrt macht der Einsatz eines leistungsfähigen Sprachmodells eine Anwendung nicht zur Hochrisiko-KI, solange sie keine zugangsrelevante Bewertung leistet. Die Filterfunktion des Art. 6 Abs. 3 EU AI Act — die Ausnahme für Systeme, die lediglich vorbereitende oder eng begrenzte Aufgaben erfüllen — greift bei Zulassungsverfahren nur in engen Grenzen: Sobald ein System das Bewerberfeld faktisch vorsortiert und damit die spätere Entscheidung determiniert, ist es nicht mehr „lediglich vorbereitend".

Warum Hochrisiko

Zulassungsentscheidungen sind Weichenstellungen mit Langzeitwirkung. Wer keinen Studien- oder Ausbildungsplatz erhält, verliert nicht nur ein Semester, sondern häufig einen Berufsweg. Drei Risiko-Mechanismen begründen die Einstufung.

Erstens der Reproduktions-Effekt historischer Auswahl. Modelle für Zulassungsverfahren werden typischerweise auf vergangenen Kohorten trainiert — auf der Frage, wer früher zugelassen wurde und wer erfolgreich abgeschlossen hat. Damit lernt das System die Auswahlmuster der Vergangenheit einschließlich ihrer Verzerrungen. Merkmale wie Schulname, Wohnort, Bildungsweg der Eltern, Sprachniveau oder Lücken im Lebenslauf wirken als Stellvertreter für soziale Herkunft, Migrationsgeschichte oder Behinderung, ohne dass ein geschütztes Merkmal je als Eingabevariable erscheint. Betroffen sind der Gleichbehandlungsgrundsatz und, bei staatlichen Einrichtungen, das Recht auf gleichen Zugang zu Bildung.

Zweitens die Intransparenz gegenüber jungen Betroffenen. Bewerberinnen und Bewerber sind häufig minderjährig oder junge Erwachsene ohne Erfahrung mit Rechtsmitteln. Sie erfahren selten, welche Merkmale ihre Bewertung bestimmt haben, und können eine fehlerhafte Datengrundlage kaum korrigieren. Der EU AI Act behandelt Bildungskontexte auch deshalb besonders streng, weil die Betroffenen typischerweise in einem Abhängigkeitsverhältnis stehen und faktisch keine Ausweichoption haben.

Drittens die strukturelle Skalierung. Ein systematischer Modellfehler trifft nicht eine Person punktuell, sondern jede Bewerbungsrunde erneut und über Jahrgänge hinweg. Aus einem statistischen Bias wird so ein struktureller Ausschluss ganzer Bewerbergruppen — sichtbar erst dann, wenn die Zusammensetzung der Kohorten bereits verschoben ist.

Pflichten für Provider

Wer ein Zulassungs- oder Ranking-System entwickelt und unter eigenem Namen in der EU anbietet — typischerweise Anbieter von Campus-Management- und Bewerbungsportal-Software — ist Provider im Sinne von Art. 3 EU AI Act und trägt den Hauptteil der Pflichten aus Kapitel III Abschnitt 2: Risikomanagement über den Lebenszyklus (Art. 9), Daten und Daten-Governance (Art. 10), technische Dokumentation nach Annex IV (Art. 11), automatische Protokollierung (Art. 12), Transparenz gegenüber Deployern (Art. 13), Vorkehrungen für wirksame menschliche Aufsicht (Art. 14) sowie Genauigkeit, Robustheit und Cybersicherheit (Art. 15).

Praktisch heißt das für Zulassungsmodelle: Die Trainings-, Validierungs- und Testdaten sind auf Repräsentativität und Verzerrung zu prüfen und zu dokumentieren, insbesondere im Hinblick auf Kohorten, in denen bestimmte Bewerbergruppen historisch unterrepräsentiert waren. Die Modellgüte ist entlang relevanter Gruppen auszuwerten, nicht nur global. Der bestimmungsgemäße Zweck ist eng zu fassen und in der Gebrauchsanweisung präzise abzugrenzen, damit eine Hochschule das System nicht unbemerkt für Zwecke einsetzt, für die es nie validiert wurde. Vor Inverkehrbringen sind Konformitätsbewertung und CE-Kennzeichnung nach Art. 43, die Eintragung in die EU-Datenbank nach Art. 49 und ein Qualitätsmanagementsystem nach Art. 17 erforderlich.

Pflichten für Deployer

Die einsetzende Hochschule, Schule oder Bildungseinrichtung ist Deployer und trägt eigene Pflichten aus Art. 26 EU AI Act: Betrieb gemäß den Anbieter-Instruktionen, Betrauung fachlich qualifizierter und befugter Personen mit der menschlichen Aufsicht, Plausibilitätsprüfung der Eingabedaten, Beobachtung des Betriebs, Meldung von Vorfällen und Aufbewahrung der automatisch erzeugten Logs. Hinzu tritt die Informationspflicht gegenüber Betroffenen nach Art. 26 Abs. 11: Wer einer KI-gestützten Zulassungsentscheidung unterworfen wird, ist darüber zu informieren.

Zwei Punkte sind in der Praxis besonders heikel. Erstens die Wirksamkeit der Aufsicht: Ein Auswahlausschuss, der eine algorithmische Rangliste ohne eigene inhaltliche Prüfung übernimmt, erfüllt Art. 14 gerade nicht. Aufsicht muss die reale Möglichkeit und die dokumentierte Praxis des Übersteuerns umfassen. Zweitens die Grundrechte-Folgenabschätzung nach Art. 27: Öffentliche Einrichtungen und Stellen, die öffentliche Dienste erbringen, müssen sie vor dem Einsatz durchführen — bei staatlichen Hochschulen und Schulen ist das der Regelfall. Flankierend bleiben Art. 22 DSGVO für rein automatisierte Einzelentscheidungen mit erheblicher Wirkung, die Informations- und Auskunftsrechte nach Art. 13 bis 15 DSGVO sowie das nationale Hochschul- und Verwaltungsverfahrensrecht anwendbar; in Deutschland treten die Anforderungen des AGG hinzu. Rechtsräume mit eigener Ausgestaltung — DE, EU27-Rest, UK und CH — unterscheiden sich hier im Detail erheblich.

Was Audits prüfen

• Zweckbindung und Systemabgrenzung: Belegte Übereinstimmung zwischen dem in der Gebrauchsanweisung definierten Zweck und dem tatsächlichen Einsatz im Zulassungsverfahren.
• Daten-Governance: Herkunft, Repräsentativität und Aktualität der Trainings- und Eingabedaten nach Art. 10, einschließlich dokumentierter Prüfung auf Proxy-Variablen wie Schulname oder Wohnort.
• Subgruppen-Evaluation: Dokumentierte Auswertung der Zulassungsquoten und Modellgüte entlang relevanter Bewerbergruppen über mehrere Jahrgänge.
• Human-Oversight-Nachweis: Nachweis, dass der Auswahlausschuss algorithmische Rankings tatsächlich übersteuert hat, mit dokumentierter Begründung — nicht nur formale Zuständigkeit.
• Grundrechte-Folgenabschätzung: Vorliegen und Aktualität der Art.-27-FRIA bei öffentlichen Trägern, mit nachvollziehbarer Ableitung der Minderungsmaßnahmen.
• Betroffenen-Information und Rechtsbehelf: Belege für die Information nach Art. 26 Abs. 11 und für ein funktionierendes Verfahren zur Anfechtung einer Ablehnung.
• Logging: Lückenlose Protokolle, die eine einzelne Zulassungsentscheidung mit Modellversion, Eingabedaten und Zeitstempel rekonstruierbar machen (Art. 12).

Konforme Architektur

Eine konforme Implementierung trennt die Schicht der Bewerbungsdaten, die bewertende Modellschicht und die Zulassungsentscheidung — und hält an jeder Grenze einen Kontroll- und Protokollpunkt vor. Die Datenschicht beschränkt sich auf zweckgebundene, fachlich begründbare Eignungsmerkmale und versieht jeden Wert mit Quelle und Stand; Merkmale ohne belegten Eignungsbezug gehören nicht in das Modell, gerade weil sie als Proxy wirken können. Die Modellschicht liefert nachvollziehbare Teilbeiträge statt eines opaken Gesamtscores und schreibt jede Bewertung mit Modellversion, Eingabe und Zeitstempel in ein revisionssicheres Log.

Die Entscheidungsschicht ist so zu gestalten, dass die Rangliste als Vorschlag und nicht als Ergebnis in den Auswahlausschuss geht: einsehbar, hinterfragbar, übersteuerbar — mit Begründungspflicht bei Abweichung und bei Übernahme in Grenzfällen. Ein laufendes Kohorten-Monitoring vergleicht die Zusammensetzung von Bewerberfeld und Zugelassenen über Jahrgänge und macht entstehende Verschiebungen früh sichtbar. Ein definierter Change-Prozess stellt sicher, dass jede Modelländerung vor dem nächsten Zulassungszyklus erneut bewertet, dokumentiert und freigegeben wird. Diese Nachweise entstehen nicht rückwirkend zum Audit-Termin — sie müssen im laufenden Betrieb anfallen, wenn sie im Verfahren tragen sollen.

Den Gesamtkontext des EU AI Act — Risikoklassen, Pflichtensystematik und das Forcing Event 02.12.2027 — vertieft der Leitfaden auf eu-ai-verordnung.de. Für die konkrete Ausgestaltung von Risk Assessments, Grundrechte-Folgenabschätzung und Aufsichts-Nachweisen liefert ki-hochrisiko.de passende Templates und Checklisten.

AEGIRA AI Navigator unterstützt die Risikoklassifizierung und Pflicht-Ableitung für Annex-III-Use-Cases — aegira.ai.