Die wahre Herausforderung des ROI von KI im Finanzwesen: Genauigkeit, Vertrauen und die Verifizierungssteuer

Die Ära „Move Fast and Break Things“ ist in der Finanzbranche schon bei ihrer Ankunft tot

Mark Zuckerbergs berühmter Grundsatz „Move fast and break things“ (Handle schnell und brich mit Konventionen) prägte ein Jahrzehnt der Technologie^.1 Doch nun, da künstliche Intelligenz zunehmend in hochriskante Bereiche wie Gesundheitswesen, Rechtswesen und Finanzwesen vordringt , erkennen Fachleute, dass dieser Grundsatz nicht nur unpassend ist, sondern sogar ein Gräuel darstellt.

In unserem Bereich Finanzen und Risiko, in dem wichtige Entscheidungen auf der Grundlage von Daten getroffen werden, ist Geschwindigkeit ohne Präzision ein Nachteil. „Dinge kaputt machen“ passt nicht gut zu treuhänderischen Pflichten, behördlicher Aufsicht oder Risikobewertungen von Portfolios. In der Finanzwelt wie auch in der Rechtswissenschaft und Medizin überwiegen die Kosten einer konkreten Fehlentscheidung bei weitem den Nutzen einer allgemeinen Schnelligkeit.

Diese nüchterne Rechnung hat zu einem entscheidenden Paradoxon auf dem Markt geführt. Die Einführung von KI schreitet immer schneller voran, doch das Vertrauen bleibt das entscheidende Hindernis für eine größere Verbreitung. 

Laut einer aktuellen Clarity AI unter Finanzmarktteilnehmern nutzen bereits 57,8 % KI oder planen, diese innerhalb der nächsten 12 Monate für Nachhaltigkeitszwecke einzusetzen. Als wichtigster Anwendungsfall wird die Verarbeitung von Nachhaltigkeitsdaten genannt (66,9 %), eine Aufgabe, bei der Genauigkeit von entscheidender Bedeutung ist. Allerdings geben 68,6 % bzw. 37,2 % der Befragten Genauigkeit und Erklärbarkeit als ihre Hauptbedenken an.

Generative KI verspricht zwar, Daten mit der Geschwindigkeit des Marktes zu verarbeiten, schafft jedoch eine Black-Box-Haftung: Wenn Sie die Ausgabe nicht überprüfen können, trauen Sie sich nicht, sie zu verwenden. Wir sind in eine Phase eingetreten, in der das größte Hindernis für den ROI von KI nicht mehr die Rechenleistung ist, sondern das Vertrauen und die hohen Kosten für die Überprüfung der Ausgabe.

Die „Vertrauens- und Verifizierungssteuer“

Wir bezeichnen diese Reibung als „Vertrauens- und Verifizierungssteuer“. Es handelt sich dabei um die nicht offengelegte Belastung der KI-Effizienz, die aus dem Fehler resultiert, allgemeine Werkzeuge auf spezielle Probleme anzuwenden.

Stellen Sie sich vor, dass ein Analyst im Rahmen der Vorinvestitionsrecherche damit beauftragt wird, alle Unternehmensveröffentlichungen eines Unternehmens zu analysieren, um ein Nachhaltigkeitsrisikoprofil für seinen Portfoliomanager zu erstellen. Dies scheint eine ideale Gelegenheit für die Automatisierung durch KI zu sein. Mit dem allgemeinen großen Sprachmodell (LLM) seiner Wahl ist eine Aufgabe, die sonst drei Stunden dauern würde, in weniger als 30 Minuten erledigt.

Doch schon bald stellt der Analyst fehlerhafte Werte fest. Das Unternehmen entnimmt aufgrund einer falschen Interpretation der Einheit „KM3“ eine Wassermenge, die dem Volumen des Oberen Sees entspricht. Der Wert seiner Scope-2-Emissionen ist höher als die Gesamtemissionen Deutschlands. Da ist etwas schiefgelaufen. Die nächsten vier Stunden verbringen sie damit, die Ergebnisse der KI zu analysieren und zu validieren, was durch die fehlende Transparenz und Erklärbarkeit der Quelle zusätzlich erschwert wird.

Das Problem liegt in der Architektur der Modelle selbst. Allzweck-LLMs schöpfen aus einem riesigen Datenkorpus, einer chaotischen Mischung aus Quellen, darunter Reddit-Threads, Meinungsbeiträge und Daten von geringer Qualität. Wenn Sie einem allgemeinen Modell eine Frage stellen, durchforstet es praktisch diesen Ozean an Daten. Dass es gelegentlich wirklich spezialisierte Erkenntnisse oder Daten findet, ist ein Zufall.

Im kreativen Schreiben ist diese umfassende Sprachgewandtheit ein Vorteil. In der Finanzwelt ist sie eine Falle.

Die Wahrheit als Einschränkung betrachten

In Szenarien mit hohem Einsatz in spezialisierten Bereichen (z. B. Finanzen, Medizin, Recht) sind zwei Elemente entscheidend für echte Effizienzsteigerungen und die Vermeidung der oben genannten Falle: spezialisierte Fähigkeiten und Transparenz. Ohne sie ist die „Effizienz“ der KI nur eine Fassade, die unter dem Gewicht von Halluzinationen und der mühsamen manuellen Bereinigung zusammenbricht.

Der Analyst Copilot Clarity AIist ein überzeugendes Beispiel für die Leistungsfähigkeit einer spezialisierten Intelligenz. Im Gegensatz zu Allzweck-Tools wie Gemini oder ChatGPT, die Erkenntnisse aus einem riesigen Meer allgemeiner Informationen gewinnen, arbeiten die Tools Clarity AIin einer „Clean Room”-Umgebung. Dank einer RAG-Architektur (Retrieval-Augmented Generation) hat der Copilot Clarity AI nur Zugriff auf Informationen, die für die Nachhaltigkeitsanalyse relevant sind: Unternehmensveröffentlichungen, Methodiken und validierte strukturierte Daten.

Das bedeutet zwar, dass es den Benutzern kein Rezept für das Sonntagsessen liefern kann, aber es bedeutet auch, dass es frei von verunreinigenden Daten minderer Qualität ist, die zu kostspieligen Fehlern eines Allzweckwerkzeugs führen.

Eine saubere Datenernährung löst jedoch nur die Eingabeseite der Gleichung. Um die „Verifizierungssteuer“ auf der Ausgabeseite wirklich zu beseitigen, muss das Modell seine Arbeit zeigen. Die Tools Clarity AIarbeiten nach einer strengen „No Link, No Ink“-Richtlinie. Wenn der Copilot einen bestimmten Datenpunkt nicht mit einer überprüfbaren Quelle belegen kann, gibt er seine Fehlbarkeit mit einem Satz zu, der im Bereich der KI-Tools selten zu hören ist: „Ich kann keine Beweise finden, um diese Frage zu beantworten”. Im Gegensatz zu generalistischen Tools ist sein Ziel nicht die Konversationsflüssigkeit, sondern die Überprüfbarkeit, indem er vertrauenswürdige Informationen mit einem direkten Link zur Quelle für die Überprüfung mit einem Klick bereitstellt.

Diese Philosophie der radikalen Transparenz geht über einfache Zitate hinaus und erstreckt sich auf die Kernlogik unserer LLM-gestützten Datenextraktions-Engines. Bei komplexen Kennzahlen reicht es nicht aus, nur einen Wert und eine Seitenzahl anzuzeigen. Der Nutzer muss auch verstehen, wie dieser Wert zustande gekommen ist. Ein Clarity AI , das für die Extraktion der Zusammensetzung von Vorständen trainiert wurde, generiert beispielsweise eine schrittweise Begründung seiner Berechnung und legt dabei die hinter den Kulissen stattfindenden Transformationen offen, die in unstrukturierten Offenlegungen oft verschleiert werden:

Die Offenlegung besagt ausdrücklich, dass der Vorstand aus sieben Mitgliedern besteht. Außerdem wird angegeben, dass die Führungsstruktur zwei unabhängige Mitglieder umfasst, die wir als unabhängige Mitglieder zählen. Der Prozentsatz der unabhängigen Mitglieder (28,57 %) wird anhand der direkt gemeldeten Zahlen (2 von 7) berechnet.

Fazit: Beweise statt Versprechungen

Im Jahr 2026 wird sich der Markt der KI-Anwender spalten. Eine Gruppe von Unternehmen wird weiterhin mit der „Verifizierungsteuer” zu kämpfen haben und prekäre Arbeitsabläufe auf der Grundlage von Allzweckmodellen aufbauen, die eine ständige, kostspielige Überwachung erfordern. Diese Unternehmen werden feststellen, dass ihre „Effizienzgewinne” durch die Notwendigkeit, jedes Ergebnis mit der Realität abzugleichen, zunichte gemacht werden. KPIs und OKRs werden darunter leiden, Pilotprojekte werden scheitern, Chefs werden schwierige Fragen stellen, und ihr Unternehmen wird in den Schlagzeilen landenden Statistiken über das Scheitern von Unternehmen bei der Skalierung von KI schmählich aufgeführt werden. 

Die Gewinner werden die umfassende Kompetenz von Generalisten gegen die nachweisbare Integrität von Spezialisten eintauschen. Diese Unternehmen werden speziell entwickelte, auditfähige KI-Tools einsetzen, die die Wahrheit als Vorgabe und nicht als Vorschlag betrachten. Sie werden erkennen, dass Vertrauen in der risikoreichen Finanzwelt keine Soft Skill, sondern eine harte Kennzahl ist. Sie werden Zeit und Geld sparen und ihre Konkurrenten sowohl in puncto Innovation als auch Leistung übertreffen, indem sie neue Wege zur Wertschöpfung erschließen.

Erfolgreich werden diejenigen Unternehmen sein, die diesen neuen Standard erfüllen, die Beweise statt Versprechungen verlangen. Während wir uns von der Ära des „schnellen Handelns und Zerstörens“ hin zum „klugen Handeln und Aufbauen“ bewegen, ist der Schlüssel zum Erfolg nicht mehr die Geschwindigkeit des Prozessors, sondern die Integrität des Prozesses.