Wer KI in bestehende Prozesse oder in eine Webanwendung einbaut, stößt früh auf zwei Fragen, die sich mit Datenblättern allein nicht beantworten lassen: Was passiert mit den Daten, die in das System gegeben werden? Und wie verlässlich sind die Antworten, die zurückkommen? Der TÜV-Verband plant nach eigenen Angaben ein Programm, das genau hier ansetzen soll: eine Prüfung und Zertifizierung von KI-Systemen, die Sicherheit im Umgang mit sensiblen Daten und die Qualität der Ausgaben bewertet.

Details zu Umfang, Kriterien und Zeitplan sind bislang nicht öffentlich. Interessant ist die Richtung: Bisher beruht Vertrauen in KI-Komponenten vor allem auf Selbstauskünften der Anbieter. Ein externes Prüfsiegel würde zumindest einen Teil dieser Aussagen überprüfbar machen.

Warum das für Entscheider relevant ist

In Beschaffungsprozessen fehlt derzeit ein gemeinsamer Maßstab. Ein Anbieter beschreibt seine Modellqualität mit Benchmark-Werten, ein anderer mit Referenzkunden, ein dritter mit Zertifikaten, die sich auf das Rechenzentrum beziehen, nicht auf das KI-System selbst. Fachabteilungen müssen aus diesen unterschiedlichen Angaben eine Entscheidung ableiten – häufig ohne die Möglichkeit, sie technisch zu prüfen.

Ein etabliertes Prüfsiegel würde diese Lücke nicht vollständig schließen, aber Vergleichbarkeit schaffen. Vor allem verschiebt es die Beweislast: Statt „unser System ist sicher" gilt dann „das wurde nach einem definierten Verfahren geprüft". Für Unternehmen mit Compliance-Anforderungen, etwa im Gesundheitswesen, in der Finanzbranche oder in der öffentlichen Verwaltung, ist das ein Unterschied, der in der internen Freigabe zählt.

Zwei Prüfdimensionen, zwei Risikoarten

Die beiden im Programm genannten Aspekte adressieren unterschiedliche Risiken – und sollten in Projekten auch getrennt betrachtet werden.

  • Umgang mit sensiblen Daten: Hier geht es um Fragen wie Übertragungswege, Speicherfristen, Verwendung von Eingaben für weiteres Modelltraining, Zugriffsrechte und Mandantentrennung. Das sind klassische Themen der Informationssicherheit, die sich prüfen lassen, weil sie an technischen und organisatorischen Maßnahmen festgemacht werden können.
  • Verlässlichkeit der Antworten: Diese Dimension ist schwieriger. Generative Systeme erzeugen Ausgaben, die plausibel klingen, aber falsch sein können. Eine Prüfung kann Fehlerquoten in definierten Szenarien messen, sie kann aber keine Garantie für jeden künftigen Anwendungsfall geben.

Diese Unterscheidung ist wichtig, damit ein Zertifikat nicht überinterpretiert wird. Ein geprüftes System bleibt ein statistisches System. Wer es in einen Prozess einbaut, braucht weiterhin Kontrollpunkte an den Stellen, an denen ein Fehler teuer wird.

Was Sie unabhängig von Zertifikaten jetzt tun können

Auf ein Prüfprogramm zu warten, ist keine Strategie. Die Kriterien, die eine externe Prüfung anlegen würde, lassen sich in eigenen Projekten schon heute als Checkliste verwenden.

  1. Datenklassifizierung vor Toolauswahl. Legen Sie fest, welche Datenkategorien überhaupt an ein externes KI-System gehen dürfen. Diese Entscheidung ist eine Governance-Frage, keine technische.
  2. Vertragliche Zusagen einholen. Klären Sie schriftlich, ob Eingaben zum Training verwendet werden, wo verarbeitet wird und wie lange gespeichert bleibt. Marketingaussagen auf Produktseiten sind keine Zusage.
  3. Eigene Testfälle aufbauen. Sammeln Sie 30 bis 50 realistische Anfragen aus Ihrem Fachbereich mit bekannter korrekter Antwort. Damit lässt sich messen, ob ein Modellwechsel Ihre Anwendung besser oder schlechter macht – unabhängig von allgemeinen Benchmarks.
  4. Freigabeschritte einplanen. Wo eine falsche Ausgabe rechtliche oder finanzielle Folgen hat, gehört ein Mensch in den Ablauf. Das gilt für Angebotstexte ebenso wie für automatisierte Auskünfte an Kunden.
  5. Austauschbarkeit sichern. Kapseln Sie den Zugriff auf das KI-System in einer eigenen Schicht Ihrer Anwendung. Dann lässt sich ein Anbieter wechseln, wenn sich Prüfergebnisse, Preise oder Bedingungen ändern.

Grenzen eines Siegels

KI-Systeme werden laufend aktualisiert. Ein Modell, das heute geprüft wurde, kann sich nach dem nächsten Update in seinem Verhalten unterscheiden. Prüfprogramme müssen deshalb eine Antwort auf Versionierung und Wiederholungsprüfungen finden – ähnlich wie bei anderen Zertifizierungen, die an Überwachungsaudits gekoppelt sind. Wie das konkret gelöst wird, ist bei dem geplanten Programm noch offen.

Hinzu kommt: Ein Zertifikat bewertet ein Produkt, nicht Ihre Integration. Ob personenbezogene Daten in einem Formular korrekt maskiert werden, ob Zugriffsrechte in Ihrem Redaktionssystem sauber gesetzt sind, ob Protokolle ausgewertet werden – das bleibt Ihre Verantwortung und Teil Ihrer Projektqualität.

Einordnung für Web- und Softwareprojekte

Ein prüfbarer Qualitätsmaßstab würde die Auswahl von KI-Komponenten von einer Vertrauensfrage in eine Anforderungsfrage verwandeln – das erleichtert Ausschreibungen, interne Freigaben und die Argumentation gegenüber Datenschutzbeauftragten. Bis dahin ersetzt eine eigene, dokumentierte Prüfroutine mit klaren Testfällen und vertraglichen Zusagen jedes Siegel. Wer seine KI-Anbindung von Anfang an als austauschbare Schicht in der Architektur plant, kann später auf neue Prüfergebnisse reagieren, ohne die Anwendung neu bauen zu müssen.

Quellen