Hochrisiko-KI nach Anhang III: Einstufung, Betreiberpflichten und die neuen Fristen

Die Hochrisiko-Kategorie ist das Herzstück der KI-Verordnung – und zugleich ihr am meisten missverstandener Teil. Seit der Digital Omnibus vom 29. Juni 2026 die Geltung der Hochrisiko-Pflichten auf Ende 2027 beziehungsweise Mitte 2028 verschoben hat, ist in vielen Unternehmen der Eindruck entstanden, das Thema könne warten. Die Erfahrung lehrt das Gegenteil: Gerade weil die Anforderungen an Hochrisiko-Systeme die anspruchsvollsten der gesamten Verordnung sind, entscheidet sich in den kommenden Monaten, wer im Dezember 2027 lieferfähig und rechtskonform aufgestellt ist – und wer dann unter Zeitdruck nachrüsten muss. Dieser Beitrag erläutert die Einstufungssystematik des Art. 6 KI-VO und die praxisrelevanten Einsatzfelder des Anhangs III, die Rückausnahme des Art. 6 Abs. 3, die Pflichten von Anbietern und Betreibern einschließlich der Grundrechte-Folgenabschätzung, die neuen Fristen und das Verhältnis zur DSGVO.

Zwei Wege in die Hochrisiko-Klasse: Die Systematik des Art. 6 KI-VO

Die Verordnung kennt zwei Wege in die Hochrisiko-Kategorie. Der erste führt über das Produktsicherheitsrecht: Nach Art. 6 Abs. 1 KI-VO ist ein KI-System hochriskant, wenn es als Sicherheitsbauteil eines Produkts dient oder selbst ein Produkt ist, das unter die in Anhang I aufgeführten Harmonisierungsvorschriften der Union fällt – etwa im Maschinen- oder Medizinprodukterecht – und dort einer Konformitätsbewertung durch Dritte unterliegt. Der zweite Weg führt über Anhang III: Nach Art. 6 Abs. 2 KI-VO sind die dort aufgezählten Einsatzfelder eigenständig hochriskant, unabhängig von jedem Produktbezug. Für die Unternehmenspraxis sind vor allem vier Felder relevant. Da ist zunächst der Bereich Beschäftigung und Personalmanagement: KI-Systeme für die Auswahl und Einstellung von Bewerbern, für Entscheidungen über Beförderung und Beendigung von Arbeitsverhältnissen, für die Aufgabenzuweisung sowie für die Überwachung und Bewertung von Leistung und Verhalten. Hinzu kommen die Kreditwürdigkeitsprüfung natürlicher Personen und die Risikoprüfung in der Lebens- und Krankenversicherung, ferner Sicherheitskomponenten in der kritischen Infrastruktur – etwa bei der Versorgung mit Wasser, Gas, Wärme und Strom – sowie die allgemeine und berufliche Bildung, von der Zulassung über die Bewertung von Lernergebnissen bis zur Prüfungsüberwachung. Daneben erfasst Anhang III eine Reihe staatlich geprägter Bereiche wie Biometrie, Strafverfolgung, Migration und Justiz. Entscheidend ist stets der Einsatzzweck, nicht die verwendete Technik: Dasselbe Sprachmodell kann in der einen Anwendung pflichtenfrei sein und in der anderen ein Hochrisiko-System.

Die Rückausnahme des Art. 6 Abs. 3 KI-VO

Nicht jedes System, das in einem Anhang-III-Feld eingesetzt wird, ist automatisch hochriskant. Art. 6 Abs. 3 KI-VO nimmt Systeme aus, die kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte begründen – namentlich, wenn das System nur eine eng begrenzte verfahrenstechnische Aufgabe übernimmt, wenn es das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit lediglich verbessert, wenn es Entscheidungsmuster nur erkennt, ohne die menschliche Bewertung zu ersetzen, oder wenn es eine rein vorbereitende Aufgabe erfüllt. Die Rückausnahme hat freilich eine Rückausnahme: Nimmt das System ein Profiling natürlicher Personen vor, bleibt es stets Hochrisiko-KI. Wer sich auf Art. 6 Abs. 3 KI-VO beruft, sollte die Einschätzung sorgfältig dokumentieren, denn sie wird im Zweifel von der Aufsicht überprüft. In der Praxis ist die Abgrenzung heikler, als sie klingt: Ein Werkzeug, das Bewerbungen „nur vorsortiert", erfüllt auf dem Papier eine vorbereitende Aufgabe – wenn die menschlichen Entscheider den Vorschlägen aber faktisch durchweg folgen, dominiert das System die Entscheidung. Die Einstufung verlangt deshalb einen ehrlichen Blick auf die gelebten Abläufe, nicht nur auf die Prozessbeschreibung.

Die Anbieterpflichten: von Risikomanagement bis CE-Kennzeichnung

Wen die Hochrisiko-Einstufung trifft, entscheidet die Rolle. Anbieter – also diejenigen, die das System entwickeln oder entwickeln lassen und unter eigenem Namen in Verkehr bringen – trifft der volle Pflichtenkatalog: ein Risikomanagementsystem über den gesamten Lebenszyklus (Art. 9 KI-VO), eine Daten-Governance mit Qualitätsanforderungen an Trainings-, Validierungs- und Testdaten (Art. 10 KI-VO), eine umfassende technische Dokumentation (Art. 11 KI-VO), automatische Aufzeichnungen des Betriebs (Art. 12 KI-VO), transparente Betriebsanleitungen für die Betreiber (Art. 13 KI-VO), eine Gestaltung, die wirksame menschliche Aufsicht ermöglicht (Art. 14 KI-VO), sowie Genauigkeit, Robustheit und Cybersicherheit (Art. 15 KI-VO). Vor dem Inverkehrbringen steht die Konformitätsbewertung, sichtbar gemacht durch die CE-Kennzeichnung. Auch wer selbst nie Anbieter sein wird, sollte diesen Katalog kennen: Er ist der Maßstab, an dem sich Beschaffung und Vertragsgestaltung orientieren, und er beantwortet die Frage, welche Unterlagen und Zusicherungen ein Betreiber von seinem Lieferanten verlangen kann und sollte.

Die Betreiberpflichten des Art. 26 KI-VO im Detail

Für die Masse der Unternehmen wichtiger sind die Betreiberpflichten des Art. 26 KI-VO. Wer ein Hochrisiko-System in eigener Verantwortung einsetzt, muss durch geeignete technische und organisatorische Maßnahmen sicherstellen, dass es entsprechend der Betriebsanleitung verwendet wird (Art. 26 Abs. 1 KI-VO). Die menschliche Aufsicht ist Personen zu übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen (Art. 26 Abs. 2 KI-VO) – hier schließt sich der Kreis zur Kompetenzpflicht des Art. 4 KI-VO. Soweit der Betreiber die Kontrolle über die Eingabedaten hat, müssen diese der Zweckbestimmung des Systems entsprechen (Art. 26 Abs. 4 KI-VO); der Betrieb ist zu überwachen, und die automatisch erzeugten Protokolle sind aufzubewahren (Art. 26 Abs. 5 und 6 KI-VO). Besondere Beachtung verdient die arbeitsrechtliche Flanke: Vor der Inbetriebnahme eines Hochrisiko-Systems am Arbeitsplatz sind die betroffenen Beschäftigten und ihre Vertreter zu informieren (Art. 26 Abs. 7 KI-VO). Unabhängig davon gilt: KI-Werkzeuge, die Leistung oder Verhalten von Beschäftigten überwachen können, sind nach der ständigen, weiten Auslegung des § 87 Abs. 1 Nr. 6 BetrVG regelmäßig mitbestimmungspflichtig – der Betriebsrat gehört also früh an den Tisch, nicht erst am Tag der Einführung.

Die Grundrechte-Folgenabschätzung nach Art. 27 KI-VO

Für bestimmte Betreiber tritt eine weitere Pflicht hinzu: die Grundrechte-Folgenabschätzung. Art. 27 KI-VO verlangt sie insbesondere von öffentlichen Stellen und privaten Einrichtungen, die öffentliche Dienstleistungen erbringen, sowie von Betreibern bestimmter Anhang-III-Systeme, namentlich zur Kreditwürdigkeitsprüfung und zur Risikoprüfung in der Lebens- und Krankenversicherung. Inhaltlich geht es darum, vor dem ersten Einsatz die betroffenen Prozesse, die Einsatzdauer und -häufigkeit, die Kategorien betroffener Personen, die spezifischen Schadensrisiken sowie die Vorkehrungen zur menschlichen Aufsicht und die Abhilfemaßnahmen im Schadensfall systematisch zu beschreiben. Wer die Datenschutz-Folgenabschätzung nach Art. 35 DSGVO kennt, erkennt die Verwandtschaft – und die Chance: Beide Prüfungen lassen sich methodisch verzahnen, sodass keine doppelten, sondern aufeinander aufbauende Dokumente entstehen. Richtig aufgesetzt, ist die Folgenabschätzung kein bürokratischer Selbstzweck, sondern das Dokument, mit dem ein Unternehmen gegenüber Aufsicht, Betroffenen und den eigenen Gremien belegt, dass es die Risiken seines Systems verstanden und beherrscht hat.

Die neuen Fristen – und warum die Vorbereitung jetzt beginnen muss

Mit dem am 29. Juni 2026 formell beschlossenen Digital Omnibus hat der europäische Gesetzgeber die Geltung der Hochrisiko-Pflichten verschoben: für die Einsatzfelder des Anhangs III auf den 2. Dezember 2027, für Hochrisiko-KI als Sicherheitsbauteil oder Produkt nach Anhang I auf den 2. August 2028. Verbote, GPAI-Pflichten und Transparenzpflichten bleiben unberührt. Wer daraus den Schluss zieht, das Thema auf Ende 2027 zu vertagen, verkennt drei Zusammenhänge. Erstens die Beschaffung: Verträge über Bewerbermanagement-Systeme, Scoring-Werkzeuge oder Steuerungssoftware, die heute geschlossen werden, laufen weit in die Geltungszeit hinein. Wer jetzt nicht auf vertragliche Zusicherungen der Konformität zum Stichtag, auf Informations-, Update- und Mitwirkungspflichten des Anbieters achtet, verhandelt später aus der schwächeren Position. Zweitens die Datenlage: Die Pflicht, für zweckentsprechende Eingabedaten zu sorgen, lässt sich nicht kurzfristig einlösen – Datenqualität, Datenherkunft und die dafür nötigen Prozesse brauchen Vorlauf von Jahren, nicht Wochen. Drittens die Organisation: Menschliche Aufsicht setzt geschulte, mit Befugnissen ausgestattete Personen voraus, und die Mitbestimmung des Betriebsrats will geordnet durchlaufen sein. Sinnvoll ist daher, die Bestandsaufnahme und die Einstufung der eigenen Systeme sofort vorzunehmen, die Lücken zum Pflichtenkatalog zu ermitteln und die Schließung dieser Lücken über die verbleibende Zeit zu planen – die verlängerte Frist ist Projektlaufzeit, kein Wartesaal.

Hochrisiko-KI und DSGVO: doppelte Pflichtenlage

Die KI-Verordnung tritt neben das Datenschutzrecht, sie ersetzt es nicht. Wo ein Hochrisiko-System personenbezogene Daten verarbeitet – und das ist bei Personalauswahl und Kreditwürdigkeitsprüfung der Regelfall –, gelten beide Regime nebeneinander. Praktisch bedeutsam ist zunächst Art. 22 DSGVO: Der EuGH hat mit Urteil vom 7.12.2023 – C-634/21 („SCHUFA") entschieden, dass bereits die Score-Bildung eine automatisierte Einzelentscheidung sein kann. Wer KI-gestützte Bewertungen in Entscheidungen über Menschen einfließen lässt, muss also prüfen, ob eine verbotene automatisierte Einzelentscheidung vorliegt oder eine der engen Ausnahmen greift. Hinzu kommen die Datenschutz-Folgenabschätzung nach Art. 35 DSGVO, die beim Einsatz von KI regelmäßig erforderlich ist, die Informationspflichten der Art. 13 und 14 DSGVO sowie die Betroffenenrechte, deren Umsetzung bei lernenden Systemen – man denke an Berichtigung und Löschung – besondere Sorgfalt verlangt. Im Beschäftigungskontext ist zusätzlich § 26 BDSG zu beachten. Die gute Nachricht: Wer seine DSGVO-Compliance ernst genommen hat, verfügt bereits über Strukturen – Verarbeitungsverzeichnis, Folgenabschätzungen, Löschkonzepte –, auf denen die KI-Compliance aufsetzen kann.

Häufige Fragen

Ab wann gelten die Pflichten für Hochrisiko-KI nach dem Digital Omnibus? Für die eigenständigen Einsatzfelder des Anhangs III – etwa Personalauswahl, Kreditwürdigkeitsprüfung, kritische Infrastruktur und Bildung – ab dem 2. Dezember 2027. Für Hochrisiko-KI, die als Sicherheitsbauteil oder Produkt unter Anhang I fällt, ab dem 2. August 2028. Verbote, GPAI-Pflichten und die Transparenzpflichten des Art. 50 KI-VO bleiben von der Verschiebung unberührt.

Ist jedes KI-Werkzeug im Personalbereich automatisch Hochrisiko-KI? Nein. Nach Art. 6 Abs. 3 KI-VO sind Systeme ausgenommen, die etwa nur eine eng begrenzte verfahrenstechnische oder rein vorbereitende Aufgabe erfüllen und kein erhebliches Risiko für Grundrechte begründen. Beim Profiling natürlicher Personen bleibt es jedoch stets bei der Hochrisiko-Einstufung, und die Berufung auf die Ausnahme sollte dokumentiert und an den tatsächlichen Abläufen gemessen werden.

Brauchen wir neben der Grundrechte-Folgenabschätzung auch eine Datenschutz-Folgenabschätzung? Häufig ja. Die Grundrechte-Folgenabschätzung nach Art. 27 KI-VO trifft nur bestimmte Betreiber, während die Datenschutz-Folgenabschätzung nach Art. 35 DSGVO beim KI-Einsatz mit personenbezogenen Daten regelmäßig erforderlich ist. Beide Prüfungen lassen sich methodisch verzahnen, sodass Doppelarbeit vermieden wird und ein konsistentes Risikodokument entsteht.

Dieser Beitrag gibt einen allgemeinen Überblick auf dem Rechtsstand 2026 und ersetzt keine Rechtsberatung im Einzelfall. Für eine Einschätzung Ihres konkreten Anliegens vereinbaren Sie gern ein Erstgespräch mit KALER.