Die meisten KI-Funktionen in Webanwendungen brauchen gar keinen Fließtext. Sie brauchen eine Entscheidung: Gehört diese Anfrage in den Vertrieb oder in den Support? Ist dieser Datensatz vollständig genug für die Freigabe? Handelt es sich bei diesem Kommentar um Spam? Trotzdem wird für solche Aufgaben häufig ein großes Sprachmodell angebunden, das eigentlich für offene Gespräche gebaut wurde – und dessen Antwort danach mühsam wieder in eine verwertbare Form gebracht werden muss.

Genau an dieser Stelle setzt ein neuer Ansatz an. Das Unternehmen TypeSafe AI, gegründet vom ehemaligen OpenAI-Forscher Diogo Almeida, hat ein Modell mit dem Namen Jev vorgestellt, das bewusst keine Texte erzeugt. Es liefert ausschließlich Klassifizierungen, also die Zuordnung einer Eingabe zu einer von mehreren vorgegebenen Kategorien. Als Antwortzeiten werden Werte ab 70 Millisekunden genannt, die Token-Preise – also die Abrechnung nach verarbeiteten Texteinheiten – liegen laut Anbieter sehr niedrig.

Was der Verzicht auf Text technisch bedeutet

Ein generatives Modell hat einen praktisch unbegrenzten Antwortraum. Es kann die gewünschte Kategorie nennen, sie umschreiben, sie begründen, sich entschuldigen oder eine Kategorie erfinden, die es in der Anwendung gar nicht gibt. Entwicklungsteams begegnen dem mit Prompt-Regeln, Nachbearbeitung und Validierung – Aufwand, der in jedem Projekt neu anfällt und nie ganz verschwindet.

Ein reiner Klassifikator kennt dieses Problem nicht. Er wählt strikt innerhalb der Optionen, die ihm vorgegeben werden. Für die Software heißt das: Die Antwort passt immer in das erwartete Format, ohne Parsing-Fallstricke und ohne Sonderbehandlung für ungewöhnliche Ausgaben.

Wichtig ist dabei die Abgrenzung, die der Anbieter selbst zieht: Dieser Ansatz schützt nicht vor inhaltlichen Fehlern. Das Modell kann sich für die falsche Kategorie entscheiden, genau wie jedes andere System auch. Garantiert wird lediglich, dass es sich innerhalb der erlaubten Optionen bewegt. Formale Verlässlichkeit ist also nicht dasselbe wie fachliche Richtigkeit – diese Unterscheidung sollte in jedem Projekt klar kommuniziert werden.

Wo sich das in der Praxis auszahlt

Der Nutzen liegt überall dort, wo eine Entscheidung im Hintergrund läuft und niemand auf eine formulierte Antwort wartet:

  • Routing: eingehende Formulare, Tickets oder E-Mails automatisch der richtigen Abteilung oder Warteschlange zuordnen.
  • Freigaben: Redaktionsbeiträge, Kommentare oder Uploads vorsortieren, bevor ein Mensch sie prüft.
  • Datenprüfung: Einträge auf Plausibilität, Vollständigkeit oder Dublettenverdacht klassifizieren.
  • Content-Anreicherung: Artikel, Produkte oder Dokumente Kategorien und Schlagworten zuordnen.

In all diesen Fällen zählt vor allem, wie schnell und wie konstant das Ergebnis kommt. Antwortzeiten im zweistelligen Millisekundenbereich verändern dabei die Architektur: Eine Klassifikation, die 70 Millisekunden dauert, kann synchron im Request laufen, während der Nutzer noch auf die Seite wartet. Ein Aufruf, der mehrere Sekunden benötigt, muss in eine Warteschlange ausgelagert werden – mit allem, was dazugehört: Jobs, Statusanzeigen, Fehlerbehandlung, Nachverfolgung.

Kosten und Testbarkeit

Der zweite praktische Vorteil ist die Planbarkeit. Bei sehr niedrigen Preisen pro verarbeiteter Einheit lässt sich eine Klassifikation auch dann einsetzen, wenn sie millionenfach im Jahr läuft – etwa bei jedem Seitenaufruf, jedem Import oder jedem Formularversand. Bei generativen Modellen ist das häufig die Stelle, an der ein Proof of Concept an den laufenden Kosten scheitert.

Am wichtigsten für die Projektarbeit ist aber die Testbarkeit. Ein Klassifikator liefert diskrete Ergebnisse, und diskrete Ergebnisse lassen sich mit klassischen Mitteln prüfen: Man legt einen Testdatensatz mit bekannten korrekten Zuordnungen an und misst, wie oft das Modell richtig liegt. Das Ergebnis ist eine Zahl, die man über die Zeit beobachten und bei Modellwechseln vergleichen kann.

Bei freiem Text ist das ungleich aufwendiger. Dort braucht es entweder menschliche Bewertung oder ein zweites Modell als Prüfinstanz – beides teuer, langsam und selbst wieder fehleranfällig. Wer die Qualität einer KI-Funktion gegenüber der Geschäftsführung belegen muss, hat es mit klassifizierenden Systemen deutlich leichter.

Die Entwurfsfrage steht vor der Modellfrage

Der eigentliche Aufwand verschiebt sich damit an eine andere Stelle: Man muss die Kategorien sauber definieren. Welche Optionen gibt es? Sind sie überschneidungsfrei? Gibt es eine Rückfalloption für unklare Fälle, und was passiert dann? Wer entscheidet, wenn das Modell unsicher ist?

Das ist im Kern klassische Prozessarbeit und keine KI-Frage. Erfahrungsgemäß ist sie es aber, die über den Erfolg entscheidet. Ein schlecht geschnittener Kategoriebaum liefert auch mit dem besten Modell unbrauchbare Ergebnisse – und ein gut geschnittener kommt oft mit erstaunlich einfacher Technik aus.

Einordnung

Für Web- und Softwareprojekte bedeutet das vor allem eine nüchterne Vorprüfung: Bevor ein Chatmodell angebunden wird, lohnt sich die Frage, ob die Aufgabe nicht in Wahrheit eine Entscheidung zwischen wenigen Optionen ist. Ist sie das, sprechen Antwortzeit, Kosten und Prüfbarkeit klar für ein spezialisiertes Modell. Generative Modelle behalten ihren Platz dort, wo tatsächlich Sprache entstehen soll – für alles andere ist der kleinere, engere Baustein meist der stabilere.

Quellen