KI macht dich nicht fehlerfreier

Es erzeugt das plausibelste Ergebnis, nicht das garantiert richtige. Es halluziniert überzeugend, und bei Zahlen irrt es selbstbewusst. Das ist kein Bug, den ein Update wegräumt – es ist eine Eigenschaft.

Denn ein LLM ist kein Taschenrechner. Es ist probabilistisch: Es erzeugt das plausibelste Ergebnis, nicht das garantiert richtige. Es halluziniert überzeugend, und bei Zahlen irrt es selbstbewusst. Das ist kein Bug, den ein Update wegräumt – es ist eine Eigenschaft.

Früher fing das ein Team ab. Viele Hände, die gegenlesen. Jetzt produziert eine Person mit ihrer AI-Workforce das Volumen eines Teams – und prüft es allein. Ihr Urteil wird zum Flaschenhals und zum Hebel zugleich. Ein durchgewunkener Fehler repliziert sich nicht einmal. Er repliziert sich hundertfach.

Deshalb sinkt der Wert von Qualitätsanspruch nicht. Er steigt.

Aber was heißt Qualität überhaupt? Mehr als „keine Tippfehler". Ich sortiere sie in zwei Klassen:

Hart und prüfbar:

• Stimmen die Behauptungen? (keine erfundenen Fakten)
• Stimmen die Zahlen?
• –Wurde der vorgeschriebene Weg eingehalten? (Freigaben, Prüfschritte, Compliance)

Weich und urteilsabhängig:

• Klingt das nach uns? (Marke, Tonalität, Claims, rechtlich sauber)
• Passt es zu diesem Empfänger in dieser Lage? (Empathie)

Der unbequeme Teil: Ausgerechnet bei den weichen Dimensionen ist die KI schwach. „Plausibel" ist eben nicht „passt zu dieser Marke, diesem Menschen". Und bei Skalierung ist jeder KI-Touchpoint dein Außenauftritt. Ein leicht schiefer Ton in einer Mail ist ein Ausrutscher. In tausend Mails verschiebt er, wie der Markt dich sieht.

Dazu ein zweiter blinder Fleck: Agenten nehmen Abkürzungen. Sie überspringen einen Prüfschritt oder behaupten eine Freigabe, die nie erfolgt ist – das Ergebnis sieht sauber aus, der Weg dahin war es nicht.

Die Antwort ist nicht „mehr prüfen". Es sind zwei Mechanismen:

Human-in-the-Loop: Der Mensch ist ein Pflicht-Schritt im Ablauf. Der Agent stoppt und darf erst weiter, wenn ein Mensch freigibt. Hand am Auslöser. Für riskante, schwer umkehrbare Aktionen.

Human-on-the-Loop: Der Mensch steht über dem Ablauf. Der Agent handelt autonom, der Mensch überwacht, zieht Stichproben, kann jederzeit eingreifen. Hand am Notausschalter. Für hohes Volumen und umkehrbare Aktionen.

Konkret, im Angebotsprozess:

Die AI-Workforce erstellt das Angebot – zieht Daten, rechnet, formuliert. Preise, Rabatte, rechtsverbindliche Zusagen? In-the-Loop-Gate: Kein Angebot geht raus ohne menschliche Freigabe an genau diesem Punkt. Die Nachfass-Kommunikation über hunderte Vorgänge? On-the-Loop: läuft autonom, der Mensch prüft Stichproben auf Ton und Marke – und greift ein, wenn etwas kippt.

So ist Human-in-the-Loop kein Bremsklotz. Es sitzt dort, wo ein Fehler am teuersten skaliert – und lässt den Rest laufen.

Und hier kippt Qualität vom Kostenfaktor zum Wettbewerbsfaktor. Wenn alle dieselben Modelle nutzen, konvergiert der Output – gleiche plausible Mitte, austauschbar. Was dich dann unterscheidet, ist nicht die KI. Es ist, was ein Mensch darüberlegt: ein konsistenter Markenauftritt, echte Empathie, ein nicht verhandelbarer Qualitätsanspruch. Je mehr KI zum Standard wird, desto mehr entscheidet der Mensch über den Unterschied. Seine Bedeutung sinkt nicht – sie steigt.

Das ist Qualität im KI-Zeitalter: nicht alles selbst machen. Sondern wissen, wo dein Urteil zählt.