Wer KI-gestützte Arbeitsabläufe in einem mittelständischen Unternehmen einführt, stößt früh auf dieselbe Frage: Dürfen die Daten das Haus verlassen? Bei Verträgen, Personalakten, Kalkulationen oder Kundendaten fällt die Antwort oft nein aus — und damit fallen viele Cloud-Dienste aus dem Raster. Genau in diese Lücke stößt ein aktueller Schritt von Perplexity: Das Unternehmen liefert nach eigener Darstellung ein Modell und einen zugehörigen Agenten, die lokal auf eigener Hardware betrieben werden können.

Bemerkenswert ist dabei weniger das einzelne Produkt als die Begründung. Perplexity argumentiert, dass Agenten für den lokalen Betrieb eine andere Abstimmung brauchen als Modelle, die in einem Rechenzentrum mit nahezu beliebiger Rechenleistung arbeiten. Im Wettbewerbsvergleich soll der Agent nach Angaben des Anbieters die Modelle Hermes und Pi übertreffen. Solche Selbsteinschätzungen sind mit Vorsicht zu lesen: Perplexity verfolgt mit einem lokal einsetzbaren Agenten eigene Interessen, und Benchmark-Aussagen von Herstellern ersetzen keine eigene Prüfung im konkreten Anwendungsfall.

Was ein Agent von einem Chatmodell unterscheidet

Ein Sprachmodell beantwortet Anfragen. Ein Agent — also ein KI-System, das mehrschrittige Aufgaben plant, Werkzeuge aufruft und Zwischenergebnisse bewertet — arbeitet dagegen in Schleifen: suchen, lesen, zusammenfassen, eine Datei schreiben, das Ergebnis prüfen. Für jeden dieser Schritte fällt eine eigene Modellanfrage an.

Das erklärt, warum lokale Agenten ein anderes Profil brauchen. In der Cloud lässt sich ein aufwendiger Denkprozess über viele Zwischenschritte hinweg leisten. Auf einer Arbeitsstation mit einer einzelnen Grafikkarte entscheidet dagegen jeder zusätzliche Schritt darüber, ob eine Aufgabe in Sekunden oder in Minuten fertig wird. Ein Modell, das knapp und zuverlässig entscheidet, welches Werkzeug es als Nächstes aufruft, ist in diesem Umfeld wertvoller als eines, das ausführlich formuliert.

Der eigentliche Vorteil: Daten bleiben im Haus

Für Unternehmen ist der zentrale Punkt organisatorisch, nicht technisch. Läuft ein Agent auf einem Rechner im eigenen Netz, entfällt eine ganze Klasse von Fragen:

  • Auftragsverarbeitung: Es gibt keinen externen Dienstleister, der personenbezogene Daten verarbeitet, und damit keinen zusätzlichen Vertrag samt Prüfung.
  • Drittlandtransfer: Die Frage, in welchem Land die Verarbeitung stattfindet, stellt sich nicht.
  • Trainingsnutzung: Es entsteht keine Unsicherheit darüber, ob Eingaben in künftige Modellversionen einfließen.
  • Verfügbarkeit: Ein Ausfall oder eine Preisänderung beim Anbieter unterbricht den Arbeitsablauf nicht unmittelbar.

Damit wird ein Bereich zugänglich, der bisher oft blockiert war: Auswertungen auf internen Dokumentbeständen, Vorbereitung von Angeboten, Recherche in eigenen Wissensdatenbanken, Aufbereitung von Protokollen. Alles Aufgaben, bei denen die Datenlage sensibel ist, der Nutzen aber unmittelbar spürbar.

Die Kosten verschieben sich, sie verschwinden nicht

Der Wechsel von der Cloud auf eigene Hardware ist kein Sparprogramm, sondern eine Verlagerung. Statt laufender Abrechnung pro Anfrage stehen Anschaffung und Betrieb von Grafikkarten, Stromverbrauch, Kühlung und Administration auf der Rechnung. Dazu kommt Wissen, das intern aufgebaut oder eingekauft werden muss: Modelle aktualisieren, Speicherbedarf einschätzen, Antwortzeiten messen, Zugriffsrechte regeln.

Auch die Qualität ist ein Abwägungsthema. Modelle, die auf eine einzelne Arbeitsstation passen, sind kleiner als die größten Cloud-Modelle. Für strukturierte, wiederkehrende Aufgaben mit klarer Eingabe kann das genügen. Bei offenen Fragestellungen mit langem Kontext fällt der Unterschied stärker auf. Wer lokal arbeitet, sollte deshalb nicht das größtmögliche Aufgabenfeld anstreben, sondern gezielt die Abläufe auswählen, bei denen Datenschutz den Ausschlag gibt.

Wie sich der Ansatz sinnvoll prüfen lässt

Statt einer Grundsatzentscheidung empfiehlt sich ein enger Testaufbau:

  1. Einen konkreten Arbeitsablauf auswählen, der heute an Datenschutzfragen scheitert — nicht den anspruchsvollsten, sondern einen mit klarem, messbarem Ergebnis.
  2. Vorab festlegen, was ausreichend gut heißt: Trefferquote, akzeptable Antwortzeit, Aufwand für die Nachkontrolle.
  3. Denselben Ablauf mit einem lokalen und einem Cloud-Modell durchspielen und die Ergebnisse gegeneinander stellen, anstatt Herstellerangaben zu übernehmen.
  4. Den Agenten so anbinden, dass das Modell austauschbar bleibt. Die Schnittstellen zu den eigenen Systemen sind langlebiger als jede aktuelle Modellgeneration.

Der letzte Punkt ist der wichtigste. Der Markt für lokal betreibbare Modelle bewegt sich schnell, und was heute als Spitze eines Vergleichs gilt, kann in wenigen Monaten überholt sein. Wer seine Automatisierung an ein einzelnes Modell fest verdrahtet, kauft sich eine Abhängigkeit, die er mit dem Schritt in die eigene Infrastruktur gerade vermeiden wollte.

Für Web- und Softwareprojekte heißt das: Die Architektur entscheidet stärker über den Nutzen als die Modellwahl. Wer KI-Funktionen hinter einer eigenen Schnittstelle kapselt, kann zwischen lokalem Betrieb und Cloud-Dienst wechseln, je nachdem wie sensibel die Daten im jeweiligen Anwendungsfall sind. Und Datenschutz wird damit vom Ausschlusskriterium zu einer Entscheidung, die man pro Arbeitsablauf trifft.

Quellen