how2be.digital
← Alle Insights
#AgenticAI #Leadership #Operating-Model

Wann ein KI-Agent anhalten muss

Schickt ein Agent jede Ausnahme an einen Menschen, wird der zum Flaschenhals. Schickt er keine, entscheidet er Dinge, die niemand verantworten will. Vier Bausteine für klare Entscheidungsgrenzen zwischen Agent und Mensch.

Matthias
15. Nov 2026 · 3 Min. Lesezeit

In Je mehr KI kann, desto bewusster müssen wir die Rolle des Menschen gestalten standen drei Fragen, die über die Rolle des Menschen entscheiden. Die erste ist die praktischste, und an ihr scheitern viele Vorhaben zuerst: Wo verläuft die Grenze zwischen Agent und Mensch?

Diese Grenze entsteht selten bewusst. Meist ergibt sie sich aus dem, was die Technik gerade kann. Genau das ist das Problem.

Zwei Fehler, die beide teuer sind

Alles landet beim Menschen. Jede Unsicherheit, jede Abweichung, jede ungewöhnliche Eingabe wird zur Freigabe. Der Mensch wird zum Flaschenhals, und weil er die vielen Fälle nicht mehr durchdringen kann, zeichnet er irgendwann ab, statt zu prüfen.

Nichts landet beim Menschen. Der Agent entscheidet auch dort, wo es um Tragweite, Haftung oder Vertrauen geht. Das geht so lange gut, bis eine Entscheidung danebenliegt, die niemand verantworten wollte und niemand gesehen hat.

Beide Fehler haben dieselbe Ursache: Die Grenze wurde nie gezogen.

Vier Bausteine für klare Grenzen

1. Entscheidungsklassen. Nicht jede Entscheidung braucht dieselbe Aufmerksamkeit. Hilfreich sind drei Klassen: Was der Agent allein entscheidet, was er entscheidet und ein Mensch stichprobenartig prüft, und was nur mit Freigabe passiert. Maßstab sind Tragweite und Umkehrbarkeit: Je teurer ein Fehler und je schwerer er rückgängig zu machen ist, desto näher rückt die Entscheidung zum Menschen.

2. Stop-Kriterien im Prozess. Wann ein Agent anhält, darf nicht im Ermessen des Einzelnen liegen. Es gehört in den Prozess: fehlende oder widersprüchliche Daten, ein überschrittener Schwellenwert, eine Fallart, die bisher nicht vorkam. Klar formuliert, für alle gleich.

3. Übergabe mit Kontext. Hält der Agent an, bekommt der Mensch nicht nur „Bitte freigeben“. Er bekommt den Weg dorthin: was geprüft wurde, warum angehalten wurde und welche Optionen es gibt. Nur so kann er wirklich entscheiden.

4. Benannte Verantwortung. Für jede Entscheidungsklasse ist klar, welche Rolle sie verantwortet. Das gilt für die Entscheidungen des Agenten genauso wie für die des Menschen.

Die Grenze wandert

Je verlässlicher ein Agent arbeitet, desto mehr kann er übernehmen. Das ist gewollt. Entscheidend ist, dass die Grenze bewusst verschoben wird und nicht schleichend.

Dafür reichen wenige Fragen, regelmäßig gestellt: Wie oft hält der Agent an? Wie oft korrigiert der Mensch das Ergebnis? Welche Stop-Kriterien greifen nie, welche ständig? Aus den Antworten folgt, welche Entscheidungen in eine andere Klasse wandern.

Eine Übung für den Start

Nehmen Sie einen Prozess, in dem ein Agent arbeiten soll. Schreiben Sie die zehn häufigsten Entscheidungen darin auf. Ordnen Sie jede einer der drei Klassen zu. Und formulieren Sie für jede Entscheidung, die eine Freigabe braucht, das Stop-Kriterium in einem Satz.

Wo das nicht gelingt, ist nicht der Agent das Problem. Dann ist der Prozess noch nicht klar genug für einen Agenten.

Entscheidungsgrenzen für Ihren Prozess

In einem Erstgespräch schauen wir gemeinsam auf einen Ihrer Prozesse und darauf, wo die Grenze zwischen Agent und Mensch verlaufen sollte.

Termin anfragen
Matthias Zalewski
Matthias Zalewski
Dipl. Kfm. · Digital & KI · how2be.digital

Ich begleite mittelständische Unternehmen dabei, Digitalisierung und KI in kaufmännischen Prozessen wirksam zu machen — unabhängig, lean, ergebnisorientiert.

Erstgespräch anfragen

Wo hat KI in Ihren kaufmännischen Prozessen den größten Hebel?

15 Min. Erstgespräch
Newsletter

Keinen Beitrag verpassen

Neue Beiträge zu Digitalisierung und KI in kaufmännischen Prozessen per E-Mail. Abmeldung jederzeit mit einem Klick.

Ja, ich möchte den Newsletter von how2be.digital per E-Mail erhalten. Meine Einwilligung gilt für alle Newsletter-Reihen von how2be.digital; der Betreiber kann mir weitere Reihen zuordnen. Ich willige ein, dass Öffnungen und Klicks gemessen werden, um den Newsletter zu verbessern. Ich kann meine Einwilligung jederzeit über den Abmeldelink in jeder Mail widerrufen. Mehr dazu in der Datenschutzerklärung.