Diese Woche machte eine Meldung die Runde, die in der Finanzbranche aufhorchen lässt. Der Beratungskonzern PwC musste einräumen, dass in mehreren seiner Berichte falsche Daten und Quellen standen – halluziniert von einem KI-Sprachmodell. Das Analyse-Tool GPTZero hatte die Fehler identifiziert (Quelle: Golem, 30. Juli 2026). Was bei einer Big-Four-Prüfungsgesellschaft peinlich wirkt, hat handfeste Konsequenzen für jeden von uns, der in der Finanzberatung arbeitet. Denn wenn selbst ein Unternehmen mit Tausenden von Qualitätskontrollmechanismen in die KI-Falle tappt, wie steht es dann um den unabhängigen Vermögensverwalter mit fünf Mitarbeitern oder den Steuerberater, der abends schnell einen Report per ChatGPT generiert?
Was passiert ist
Die Berichte, offenbar mit Hilfe von generativer KI erstellt, enthielten Zahlen und Literaturverweise, die bei genauer Prüfung nicht existierten. PwC spricht von einem Einzelfall und hat die betroffenen Dokumente korrigiert. Aus meiner Sicht ist das kein Einzelfall – es ist ein Systemmerkmal von Large Language Models. Solche Modelle arbeiten mit Wahrscheinlichkeiten über Wortfolgen, nicht mit Faktenwissen. Wenn sie einen Text generieren, kann es passieren, dass sie Daten erfinden oder Zitate frei erfinden, die perfekt in den Kontext passen. Das ist keine böse Absicht, sondern eine inhärente Eigenschaft der Technologie.
Typisches Beispiel: Ein Vermögensverwalter bittet ein KI-Tool um eine Marktanalyse mit aktuellen Renditezahlen. Das Modell liefert eine präzise Tabelle mit Zahlen, die auf den ersten Blick plausibel wirken. Erst der Abgleich mit dem Bloomberg-Terminal zeigt, dass die Werte nie existierten. Oder es wird eine wissenschaftliche Studie zitiert, deren DOI ins Leere führt. In der Prüfungspraxis sind solche Fälle kein Randphänomen mehr. GPTZero, das die PwC-Fehler aufdeckte, prüft, ob Textstellen von Maschinen stammen und ob sie halluziniert sind – eine Technik, die auch für Finanzdokumente relevant wird.
Warum das jetzt für Sie als Finanz-KMU zählt
Unabhängige Finanzdienstleister – Anlageberater, Vermögensverwalter, Family Offices, Honorarberater, Steuerberater und kleinere Asset-Manager – integrieren KI in immer mehr Prozesse. Kundenspezifische Reports, Fondsanalysen, Marktkommentare, Risikoprofile: Der Output wächst, die Personalkapazität bleibt gleich. Die Versuchung ist groß, Rohfassungen von einem Sprachmodell erstellen zu lassen und nur noch oberflächlich zu prüfen. Genau hier liegt das Risiko.
Wenn Sie einen Text ungeprüft an Ihren Kunden geben und dort steht eine Zahl, die nicht aus dem Markt stammt, sondern aus dem generativen Nebel, haften Sie. Nicht nur für den Imageschaden – auch aufsichtsrechtlich. MiFID II verlangt, dass alle Informationen, die ein Kunde bekommt, redlich, eindeutig und nicht irreführend sind. Ein halluzinierter Vergleichsindex, eine gefälschte Sharpe Ratio – das ist irreführend. Und DORA, die Verordnung zur digitalen operationalen Resilienz, verlangt, dass IKT-Risiken systematisch gemanagt werden. Der Einsatz von KI ohne Prüfroutine ist ein IKT-Risiko, das im Prüfbericht der Aufsicht stehen wird.
Häufiges Muster: Ein Family Office erstellt quartalsweise eine Performance-Übersicht. Die KI soll die Texte aus Portfoliodaten generieren. Einmal verrutscht eine Dezimalstelle, weil das Modell eine Zahl extrapoliert, statt sie aus dem System zu lesen. Der Kunde bemerkt es, verliert Vertrauen, wechselt den Berater. Schlimmer noch: Ein Honorarberater verwendet KI für eine steuerliche Einschätzung. Die KI erfindet eine BMF-Schreiben-Referenz. Das Finanzamt stellt die Frage, woher die Information stammt – und der Berater kann die Quelle nicht belegen. Das kann bis zum Vorwurf der Steuerhinterziehung reichen.
Aus meiner Sicht ist der PwC-Fall ein Warnschuss. Er zeigt, dass auch in Umgebungen mit formalen Qualitätsprozessen die Versuchung besteht, KI-Output ungeprüft zu übernehmen. In kleinen Einheiten ohne Second Line of Defence wird dieses Risiko noch größer. Wer heute einem Large Language Model blind vertraut, baut sein Geschäft auf Treibsand.
Mein Rat: Drei konkrete Schritte
1. Kein KI-Output ohne Fachprüfung. Jedes KI-generierte Dokument, das den Kunden erreicht, muss von einem Fachexperten Satz für Satz auf Fakten, Zahlen und Quellen geprüft werden. Der Prüfer braucht eine Checkliste: Stimmen alle Daten mit den Originalsystemen überein? Sind alle Quellenangaben real und aktuell? Gibt es keine inhaltlichen Widersprüche? Diese Prüfung ist nicht delegierbar an eine weitere KI – sie braucht menschliches Verständnis des Fachgebiets.
2. Quellenangaben erzwingen und alle nachschlagen. Nutzen Sie Retrieval-Augmented Generation (RAG) mit Ihren eigenen, gepflegten Datenbanken, Marktdaten-Feeds oder internen Dokumenten. Das Modell soll jede Behauptung mit einer konkreten, nachprüfbaren Quelle belegen. Lassen Sie es die Quelle explizit ausweisen – nicht nur als generischen Verweis, sondern mit Datum, Datenbankabzug oder Seitenzahl. Dann prüfen Sie jeden Link, jeden Dateinamen. Ein nicht existierender Bericht entlarvt sich so innerhalb von Sekunden. Bei externen Datenlieferanten ist der Abgleich Pflicht.
3. Dokumentieren Sie die Rohfassung und die Prompts. Archivieren Sie jeden Prompt und den unveränderten Output der KI, bevor die menschliche Prüfung beginnt. Diese Dokumentation ist entscheidend, wenn später ein Fehler auffällt. Sie können dann rekonstruieren, ob das Modell objektiv falsch lag oder ob Ihre Instruktion ungenau war. Für die Compliance-Dokumentation wird das in Zukunft relevant – der EU AI Act sieht für bestimmte Anwendungen sowieso Aufzeichnungspflichten vor. Wenn Sie heute damit anfangen, sparen Sie sich morgen Kopfschmerzen.
Mein Rat an jeden Berater, der heute einen ChatGPT-Account nutzt: Vertrauen Sie keinem einzigen Fakt, den das Modell liefert, ohne ihn eigenhändig zu verifizieren. Die Technologie ist mächtig, aber sie ersetzt keine Gewissheit. Und Gewissheit ist das Produkt, das Sie Ihren Kunden verkaufen.