Ich habe zuletzt wieder eine Diskussion über Token-Preise geführt.
Ein Kundenservice-Agent in einer Bank: 20 bis 25 Prozent der Laufkosten sind Tokens, 70 bis 75 Prozent menschliche Aufsicht. Warum die Vollkosten pro Geschäftsvorfall die richtige Messgröße sind.
Ich habe zuletzt wieder eine Diskussion über Token-Preise geführt. Am Ende ging es um den falschen Kostenblock.
In einer aktuellen Analyse zur Ökonomie agentischer Workflows rechnen die Autoren einen Kundenservice-Agenten in einer Bank durch. Die Aufteilung der variablen Laufkosten:
- Tokens: 20 bis 25 Prozent
- Menschliche Aufsicht: 70 bis 75 Prozent
Bei der Kontoeröffnung wird das noch deutlicher. Ein abgeschlossener Vorgang braucht dort laut der Darstellung fünf bis sieben Agenten, mehrere deterministische Systeme und zwei bis vier Teams, die prüfen.
Daraus folgt eine andere Messgröße. Nicht der Preis pro Modellaufruf, sondern die Vollkosten pro abgeschlossenem Geschäftsvorfall. Pro bearbeitetem Schaden, pro eröffnetem Konto, pro geprüftem Dokument. Alles andere ist eine Zwischenzahl, die niemand budgetieren kann.
Und der wirksamste Hebel liegt dann nicht beim Modell. Wer die Kosten senken will, senkt die Ausnahmequote, also den Anteil der Fälle, die in die manuelle Prüfung fallen. Jeder dieser Fälle kostet ein Vielfaches einer Inferenz. Die Ausnahmequote ist aber keine Modellfrage, sondern eine Frage des Prozessdesigns und der Frage, wer welche Entscheidung freigeben muss.
Genau da entscheidet sich, ob sich ein AI-System rechnet. Nicht am Modell.
Transparenzhinweis: Die Analyse stammt von einer Beratung, die am Aufbau genau dieser Fähigkeiten mitverdient. Die Zahlen sind Erfahrungswerte aus Kundenprojekten, keine unabhängig geprüften Messungen, und die zugehörige Umfrage hat nur 75 auswertbare Antworten. Die Richtung deckt sich mit dem, was ich in eigenen Projekten sehe: Die Nachbearbeitung ist teurer als die Inferenz.
Dieser Post entstand mit AI-Unterstützung auf Basis eigener Erfahrung.