Die Nutzung großer Sprachmodelle verschiebt sich. Nicht mehr nur Menschen tippen Fragen in ein Chatfenster, sondern zunehmend Software: KI-Agenten arbeiten mehrere Arbeitsschritte selbstständig ab und schicken dabei eigene Anfragen an die Modelle. Aktuellen Beobachtungen zufolge verbrauchen diese Agenten dabei rund fünfmal so viele Token wie die direkte Nutzung durch Menschen. Der maschinelle Anteil liegt damit inzwischen vor dem menschlichen.

Token sind die Abrechnungseinheit für Sprachmodelle – grob gesagt Wortbestandteile, die sowohl in der Anfrage als auch in der Antwort gezählt werden. Wer ein Modell über eine Programmierschnittstelle nutzt, zahlt in der Regel pro Token. Für Projektbudgets ist das der entscheidende Hebel: Nicht die Anzahl der Nutzerinnen und Nutzer treibt die Kosten, sondern die Menge des verarbeiteten Textes.

Warum Agenten so viel verbrauchen

Der Grund liegt in der Arbeitsweise. Ein Mensch stellt eine Frage, liest die Antwort und formuliert vielleicht eine Nachfrage. Ein Agent zerlegt eine Aufgabe in Teilschritte, prüft Zwischenergebnisse, ruft Werkzeuge auf, verarbeitet deren Rückgaben und startet den nächsten Durchlauf. Jeder dieser Schritte ist eine eigene Modellanfrage – und jede Anfrage trägt den bisherigen Kontext ganz oder teilweise mit.

Dazu kommt, dass Agenten Dinge lesen, die kein Mensch vollständig lesen würde: Protokolldateien, Konfigurationen, API-Antworten, ganze Verzeichnisstrukturen. Was in einem Chat eine Frage von zwei Zeilen wäre, wird im Agentenbetrieb schnell ein Kontextfenster von mehreren Tausend Token. Fehlversuche und Wiederholungen kommen obendrauf, denn ein Agent, der einen Weg verwirft und einen zweiten probiert, zahlt beide.

Nicht zu unterschätzen ist der Speicherbedarf. Agenten brauchen Gedächtnis – Zwischenergebnisse, Verläufe, Wissensbasen für die Anreicherung von Anfragen. Das schlägt in der Infrastruktur zu Buch, nicht nur in der Modellrechnung. Und je mehr Automatisierung im Markt entsteht, desto stärker wächst die Nachfrage nach genau dieser Rechen- und Speicherkapazität.

Was das für die Kalkulation bedeutet

Die praktische Konsequenz: Wer Agenten in Entwicklungs- oder Automatisierungsprozesse einbaut, kann Erfahrungswerte aus der Chat-Nutzung nicht einfach fortschreiben. Ein Pilot mit zehn Testfällen sagt wenig über die Kosten im Regelbetrieb mit tausend Vorgängen pro Woche. Die Kostenkurve verläuft nicht flach, sondern proportional zum Volumen – und bei schlecht begrenzten Agenten überproportional, weil jeder zusätzliche Schritt neuen Kontext mitzieht.

Gleichzeitig ist das kein Argument gegen Agenten. Ein Agent, der einen manuellen Prozess von 40 Minuten auf drei Minuten verkürzt, darf durchaus deutlich mehr Token verbrauchen als ein Chat-Prompt. Die Frage ist nicht, ob der Verbrauch hoch ist, sondern ob er in einem nachvollziehbaren Verhältnis zum eingesparten Aufwand steht.

Vier Ansatzpunkte für die Planung

  • Kosten pro Vorgang statt Monatspauschale: Rechnen Sie einen einzelnen Durchlauf durch – wie viele Modellaufrufe, wie viel Kontext je Aufruf. Diese Zahl mal erwartetes Volumen ergibt eine belastbare Grundlage. Eine Pauschale aus dem Bauch heraus tut das nicht.
  • Kontext bewusst begrenzen: Nicht jeder Schritt braucht die vollständige Historie. Zusammenfassungen, gezielte Auszüge und klar geschnittene Aufgaben senken den Verbrauch spürbar, ohne die Ergebnisqualität zu beschädigen.
  • Modelle nach Aufgabe wählen: Klassifizieren, Formatieren oder Extrahieren gelingt oft mit kleineren, günstigeren Modellen. Das große Modell bleibt den Schritten vorbehalten, die es wirklich brauchen.
  • Abbruchkriterien und Obergrenzen: Agenten ohne Begrenzung der Schrittzahl können in Schleifen laufen. Harte Limits pro Vorgang, Budgetgrenzen pro Zeitraum und Alarme bei Ausreißern gehören zum Betriebskonzept, nicht zur Kür.

Transparenz als Betriebsvoraussetzung

Wer Agenten produktiv betreibt, braucht Messwerte. Token pro Vorgang, Kosten pro Vorgang, Erfolgsquote, Anteil der Wiederholungen: Ohne diese Kennzahlen bleibt die Rechnung am Monatsende eine Überraschung. Sinnvoll ist, den Verbrauch von Anfang an dem jeweiligen Anwendungsfall zuzuordnen. Erst dann lässt sich beurteilen, welcher Workflow sich trägt und welcher nur beeindruckt.

Ebenso wichtig ist die ehrliche Frage nach der Alternative. Manche Aufgaben, die als Agentenprojekt beginnen, sind mit einer klassischen Regel, einem Skript oder einer sauberen Schnittstelle günstiger und zuverlässiger gelöst. Der Agent ist dann die richtige Wahl, wenn Aufgaben unstrukturiert sind, sich häufig ändern oder Text und Kontext interpretiert werden müssen.

Für Web- und Softwareprojekte heißt das: Agenten gehören in die laufenden Betriebskosten, nicht in die einmalige Projektsumme. Wer sie einsetzt, sollte Verbrauch messbar machen, Kontext und Schrittzahl technisch begrenzen und pro Anwendungsfall entscheiden, ob der Nutzen die Token rechtfertigt. So bleibt Automatisierung ein kalkulierbarer Posten – und nicht ein Kostenblock, der erst nach dem Livegang sichtbar wird.

Quellen