Künstliche Intelligenz soll in Projekten vor allem eines leisten: Vorarbeit. Sie sichtet Material, fasst zusammen, schlägt Varianten vor. Die Entscheidung, so die gängige Annahme, bleibt beim Menschen. Ein Experiment von Anthropic stellt genau diese Annahme in Frage.

Untersucht wurde, wie stark ein KI-Agent — also ein Assistenzsystem, das eigenständig Analyseschritte ausführt und Empfehlungen formuliert — das Urteil von Fachleuten beeinflusst. Beteiligt waren 50 Expertinnen und Experten, die offene Analysefragen bearbeiten sollten: Fragen also, bei denen es keine eindeutig richtige Lösung gibt, sondern eine begründete Abwägung.

Münzwurf statt Sachlage

Der entscheidende Kniff des Aufbaus: Die Neigung des KI-Agenten wurde per Münzwurf festgelegt. Die Empfehlung war also nicht das Ergebnis einer überlegenen Analyse, sondern schlicht Zufall. Trotzdem folgten die Fachleute dieser zugeteilten Richtung in 86 Prozent der Fälle.

Noch aufschlussreicher ist die Art der Übernahme. Die Teilnehmenden griffen die Argumente der KI häufig fast wortgleich auf. Es entstand also keine eigenständige Begründung, die zufällig zum selben Schluss kam, sondern eine weitgehende Übernahme der vorformulierten Argumentationslinie.

Und der dritte Befund wiegt für die Praxis am schwersten: Die Mehrheit hielt das Ergebnis am Ende für die eigene Entscheidung. Der fremde Ursprung des Urteils war den Beteiligten nicht bewusst.

Warum das kein Bequemlichkeitsproblem ist

Naheliegend wäre die Deutung, dass hier jemand abgekürzt hat. Doch der Effekt beschreibt etwas Grundlegenderes: einen Anker-Effekt. Wer eine ausformulierte Position vorgelegt bekommt, prüft sie — und prüft eben nicht mehr ergebnisoffen das gesamte Lösungsfeld. Die erste plausible Variante wird zum Bezugspunkt, gegen den alle weiteren gemessen werden.

KI-Agenten verstärken diesen Mechanismus aus zwei Gründen. Erstens liefern sie nicht nur ein Ergebnis, sondern gleich eine durchformulierte Begründung in sicherem Tonfall. Zweitens geschieht das sofort und ohne Reibung — bevor sich eine eigene Position überhaupt bilden konnte.

Dass die Empfehlung im Experiment zufällig zustande kam, ist dabei der eigentliche Punkt. Der Effekt wirkt unabhängig davon, ob der Vorschlag gut begründet ist. Eine schwache Empfehlung trägt also ähnlich weit wie eine starke, solange sie überzeugend formuliert ist.

Wo das in Projekten aufschlägt

Für die tägliche Arbeit in Web- und Softwareprojekten sind vor allem drei Situationen betroffen:

  • Code-Reviews mit KI-Unterstützung: Wenn ein Assistenzsystem bereits markiert hat, was es für kritisch hält, verengt sich die Aufmerksamkeit der prüfenden Person auf genau diese Stellen. Was nicht markiert wurde, wird tendenziell als unproblematisch behandelt.
  • Architekturentscheidungen: Fragen nach Framework, Schnittstellenschnitt oder Hosting-Modell sind klassische offene Analysefragen. Es gibt mehrere vertretbare Wege mit unterschiedlichen Folgekosten. Genau dort wirkt ein vorformulierter Vorschlag am stärksten.
  • Konzeption und Anforderungsklärung: Wenn der erste Entwurf einer Prozessbeschreibung oder einer Informationsarchitektur aus einem Modell stammt, wird er in der Regel kommentiert und nicht ersetzt.

Gefährlich ist weniger der einzelne Fall als die Dokumentationsspur, die er hinterlässt. Eine Entscheidung, die im Protokoll als fachlich abgewogen erscheint, kann faktisch die Übernahme eines Vorschlags gewesen sein. Spätere Reviews finden dann keinen Ansatzpunkt mehr, weil die Begründung ja vorliegt.

Was sich organisatorisch ableiten lässt

Die Konsequenz ist nicht, auf KI-Unterstützung zu verzichten. Sie liegt darin, die Reihenfolge und die Sichtbarkeit zu verändern:

  1. Eigene Position zuerst. Bei Entscheidungen mit längerer Bindungswirkung — Architektur, Datenmodell, Plattformwahl — lohnt es sich, die eigene Einschätzung festzuhalten, bevor das Modell befragt wird. Weichen die Ergebnisse ab, ist das ein brauchbarer Prüfanlass.
  2. Varianten statt Empfehlung anfordern. Wer mehrere Optionen mit Vor- und Nachteilen verlangt, bekommt kein einzelnes Ankerergebnis, sondern Material für eine Abwägung.
  3. Herkunft dokumentieren. In Entscheidungsvermerken sollte erkennbar bleiben, welche Teile aus einem Assistenzsystem stammen. Das kostet wenig und erhält die Nachvollziehbarkeit.
  4. Gegenargumentation einfordern. Eine zweite Abfrage, die gezielt gegen die erste Empfehlung argumentiert, legt Schwachstellen offen, die in der ersten Antwort nicht auftauchten.
  5. Rollen trennen. Wer den Entwurf erzeugt hat, sollte ihn möglichst nicht allein abnehmen — das gilt bei KI-Ausgaben so wie bei menschlichen.

Diese Maßnahmen sind bewusst schlicht gehalten. Sie funktionieren ohne zusätzliche Werkzeuge und lassen sich in bestehende Review- und Freigabeprozesse einhängen.

Einordnung

Das Experiment verschiebt den Blick auf KI-Qualität: Nicht nur die Richtigkeit der Ausgabe zählt, sondern auch ihre Wirkung auf das Urteil der Menschen, die mit ihr arbeiten. Für Web- und Softwareprojekte heißt das, dass Governance für KI-Einsatz weniger beim Modell ansetzen sollte als beim Entscheidungsweg — wer wann was sieht und wer gegenprüft. Wer das in Code-Review, Architekturfreigabe und Konzeptionsphasen verankert, behält die Geschwindigkeitsvorteile und verliert nicht die fachliche Kontrolle über Entscheidungen, deren Kosten erst Jahre später sichtbar werden.

Quellen