← Alle Projekte

LLM-Orchestrierung, Verankerung und strukturierte Ausgabe

KI-Finanzanalyst-Agent

Ein Agent, um eine einzige Vorgabe herum gebaut: Die Zahlen sollen aus einem Tool-Aufruf oder einem abgerufenen Dokument stammen. Er nimmt eine Frage in natürlicher Sprache, wählt die nötigen Tools und liefert eine strukturierte Investmentanalyse.

LLM-OrchestrierungRAGTool CallingStrukturierte AusgabenAPIs
TypLLM-Agent
VerankerungRAG-Retrieval + Live-APIs
AusgabeStrukturiertes JSON, generierter Report
MusterMehrstufige Orchestrierung

Das Problem

Fragt man ein Sprachmodell nach einer Investmentanalyse, liefert es eine. Die Zahlen darin können erfunden, veraltet oder dem falschen Unternehmen zugeordnet sein — und im Finanzkontext ist eine falsche Zahl das ganze Problem.

Das Designziel war deshalb enger als „ein KI-Analyst“: Jede Zahl in der Ausgabe sollte aus einem Tool-Aufruf oder einem abgerufenen Dokument stammen, und jede Antwort sollte in einer Form ankommen, die der Rest des Systems nutzen kann.

Was ich gebaut habe

Der Agent basiert auf einer mehrstufigen Orchestrierungs-Pipeline: Er wählt die Tools, die eine Frage braucht, führt sie gegen Live-Finanz- und Webdaten aus und reicht ein strukturiertes JSON-Objekt von Stufe zu Stufe weiter. Modell-Routing und Prompt-Chaining sind die Infrastruktur; der Report entsteht aus den JSON-Feldern, die die Pipeline zusammenstellt.

  • Tool-Aufrufe gegen Live-Finanz- und Web-APIs, damit Zahlen abgerufen statt erinnert werden.
  • Verankerung: Tool-Aufrufe gegen Live-APIs und Retrieval aus Quelldokumenten, um halluzinierte Finanzzahlen zu reduzieren.
  • Modell-Routing: Unterschiedliche Schritte gehen je nach Aufgabe an unterschiedliche Modelle.
  • Prompt-Chaining über die Analyseschritte, mit strukturierten JSON-Ausgaben dazwischen.
  • Automatische Reporterstellung aus dem strukturierten Ergebnis statt aus Freitext.

Warum die Ausgabe ein Schema ist

Ein Absatz Analyse ist schwer zu prüfen und schwer wiederzuverwenden. Ein JSON-Objekt mit benannten Feldern lässt sich validieren, zwischen Läufen vergleichen, in einen Report rendern und Feld für Feld gegen die Tool-Ausgabe prüfen, aus der es entstanden ist.

Die Pipeline endet in einem Schema, weil jede Stufe dann eine eigene Ein- und Ausgabe hat, die sich einzeln prüfen lässt — so lässt sich der Agent Stufe für Stufe testen.

Was es zeigt

  • Agent-Design: entscheiden, wann ein Tool aufgerufen wird, welches, und was mit dem Ergebnis passiert.
  • Verankerung als bewusste Vorgabe an das Modell, nicht als Prompt-Anweisung.
  • Strukturierte Ausgaben als Vertrag zwischen den Pipeline-Stufen.
  • Orchestrierung über Modelle und Schritte statt eines einzigen großen Prompts.

Grenzen und nächste Schritte

Der Agent ist nur so gut wie die APIs dahinter. Rate-Limits, fehlende Ticker und veraltete Endpunkte verschlechtern die Analyse, und das aktuelle Design hat keine formale Evaluation der faktischen Genauigkeit gegen einen Referenzdatensatz.

Es ist ein persönliches Engineering-Projekt und keine Anlageberatung. Die nächste Version würde eine Evaluationsumgebung ergänzen, die die verankerten Felder gegen Quelldaten prüft, sowie einen Cache, damit wiederholte Anfragen dieselben Zahlen nicht erneut abrufen.

Projektlinks