EU-Leitlinien zur Hochrisiko-KI: Was Banken jetzt prüfen müssen

Was diese Woche passiert ist

Die EU-Kommission hat einen Leitlinienentwurf veröffentlicht, der konkretisiert, welche KI-Systeme unter den AI Act als „hochriskant” gelten. Heise berichtete am 20. Mai. Der Entwurf richtet sich an Marktüberwachungsbehörden und Unternehmen und füllt die bisher relativ abstrakten Anhänge des AI Act mit Beispielen und Abgrenzungskriterien.

Für Finanzdienstleister ist das kein Randthema. Anhang III des AI Act listet zwei finanzrelevante Kategorien explizit als hochriskant: Kreditwürdigkeitsprüfung von natürlichen Personen sowie Risikobewertung und Preisgestaltung bei Lebens- und Krankenversicherungen. Der Leitlinienentwurf schärft jetzt, was darunter fällt und was nicht. Wer also ein Credit-Scoring-Modell, ein automatisiertes Onboarding mit Bonitäts-Layer oder ein KI-gestütztes AML-System betreibt, bekommt erstmals belastbarere Hinweise auf den eigenen Compliance-Aufwand.

Klar ist auch: AML, Fraud-Detection und KYC stehen nicht direkt in Anhang III. Sie können aber über die Hintertür hochrisiko-relevant werden, etwa wenn sie de facto über Kontoeröffnung, Kontosperre oder Kreditvergabe entscheiden. Genau diese Abgrenzung versuchen die Leitlinien zu klären.

Warum es jetzt für Banken und Asset-Manager zählt

Aus meiner Sicht sind drei Punkte entscheidend.

Erstens: Der Zeitdruck ist real. Die Hochrisiko-Pflichten des AI Act greifen ab August 2026 vollständig. Wer heute ein Scoring-Modell produktiv hat, das morgen als hochriskant eingestuft wird, braucht Risiko-Management-System, Datengovernance-Dokumentation, technische Dokumentation, Logging, menschliche Aufsicht, Genauigkeits- und Robustheitsnachweise sowie eine Konformitätsbewertung. Das ist kein Sprint, das ist ein Programm.

Zweitens: Die Abgrenzungsfrage ist Geld wert. Ob ein internes Pre-Screening-Tool als Hochrisiko-KI gilt oder als reine Entscheidungsunterstützung ohne automatisierte Wirkung, macht im Compliance-Budget einen Faktor zehn aus. Die Leitlinien geben hier endlich Anhaltspunkte. Typisches Muster: Ein KI-System liefert einen Score, ein Sachbearbeiter „prüft” ihn formal, übernimmt ihn aber in 98 Prozent der Fälle. Das ist keine menschliche Aufsicht im Sinne des AI Act, das ist Rubber-Stamping. Der Entwurf macht das deutlicher als bisher.

Drittens: Die Schnittmenge mit DORA und MiCA wächst. Banken haben aktuell parallel laufende Regulierungsbaustellen. DORA verlangt operative Resilienz auch für KI-Drittanbieter. Der AI Act verlangt Dokumentation und Risiko-Management. MiCA betrifft Krypto-Dienstleister mit eigenen Pflichten. Wer diese drei Regime getrennt aufsetzt, baut sich drei Silos. Wer sie zusammendenkt, baut ein Modell-Inventar, das für alle drei taugt.

Was der Entwurf konkret klarstellt

Drei Punkte aus dem Leitlinienentwurf, die für Finanzhäuser direkt relevant sind:

1. Eigenentwicklung versus Einkauf. Wer ein Foundation-Model eines Anbieters mit eigenen Bank-Daten finetuned und für Kreditentscheidungen einsetzt, wird in der Regel selbst zum „Anbieter” im Sinne des AI Act. Die Pflichten verschieben sich also nicht vollständig zum LLM-Anbieter, sondern bleiben zu großen Teilen beim Finanzhaus.

2. Marketing-KI bleibt meist nicht hochriskant. Reine Cross-Selling-Modelle, die Produktempfehlungen erzeugen, ohne über Kreditvergabe oder Versicherbarkeit zu entscheiden, fallen typischerweise nicht in die Hochrisiko-Kategorie. Wichtig ist die saubere Abgrenzung zur Bonitätsentscheidung.

3. Wealth-Management-Robo-Advisor. Diese stehen nicht automatisch in Anhang III. Sie können aber über MiFID-II-Eignungsprüfung und potenzielle Verbraucherschutz-Aspekte indirekt erfasst werden. Hier lohnt eine frühe juristische Klärung pro Use Case.

Mein Rat: Drei Schritte für die nächsten 90 Tage

Schritt 1: KI-Modell-Inventar aufsetzen, falls nicht vorhanden. Sie können nicht regulieren, was Sie nicht kennen. Listen Sie alle produktiven und in Entwicklung befindlichen KI-Modelle. Pro Modell: Zweck, Datenbasis, Entscheidungswirkung, Anbieter, betroffene Personen. Häufiges Muster in Banken: Das Risiko-Team kennt die eigenen Modelle, weiß aber nichts von den drei GenAI-Piloten im Wealth-Management und dem Tool, das die Compliance-Abteilung selbst eingekauft hat.

Schritt 2: Hochrisiko-Triage anhand der neuen Leitlinien. Gehen Sie jedes Modell aus dem Inventar gegen den Leitlinienentwurf durch. Drei Kategorien: klar hochriskant, klar nicht hochriskant, unklar. Die unklaren Fälle sind die wichtigsten. Hier brauchen Sie eine dokumentierte Einschätzung, am besten mit juristischer Zweitmeinung. Wenn die Aufsicht 2027 fragt, warum Sie ein Modell nicht als hochriskant eingestuft haben, ist diese Dokumentation Ihre Versicherung.

Schritt 3: Governance-Lücken priorisieren. Für jedes als hochriskant eingestufte Modell: Welche der AI-Act-Pflichten erfüllen Sie heute schon teilweise, etwa durch bestehende Modell-Validierung nach MaRisk AT 4.1 oder BCBS 239? Wo sind die echten Lücken? In den meisten Banken sind technische Dokumentation und Logging deutlich besser aufgestellt als Datengovernance für Trainingsdaten und systematische menschliche Aufsicht. Genau dort sollte das Budget hinfließen.

Was ich nicht empfehle

Warten auf die finale Fassung der Leitlinien. Der Entwurf wird sich in Details ändern, in der Stoßrichtung nicht. Wer jetzt erst startet, ist im August 2026 nicht fertig. Häufiges Muster: Compliance-Projekte in Banken brauchen 12 bis 18 Monate von Kick-off bis Produktiv-Reife. Die Uhr läuft.

Auch nicht empfehlen würde ich, das Thema komplett zur Rechtsabteilung zu schieben. Der AI Act ist zu 60 Prozent ein technisches Thema: Datenqualität, Modell-Monitoring, Logging, Reproduzierbarkeit. Das gehört in die Hände der Data-Science- und IT-Teams, mit juristischer Begleitung. Banken, die das umgekehrt aufstellen, produzieren Papier ohne technische Substanz. Das fällt bei der ersten Prüfung auf.