Wann ein KI-Agent anhalten muss
Schickt ein Agent jede Ausnahme an einen Menschen, wird der zum Flaschenhals. Schickt er keine, entscheidet er Dinge, die niemand verantworten will. Vier Bausteine für klare Entscheidungsgrenzen zwischen Agent und Mensch.
In Je mehr KI kann, desto bewusster müssen wir die Rolle des Menschen gestalten standen drei Fragen, die über die Rolle des Menschen entscheiden. Die erste ist die praktischste, und an ihr scheitern viele Vorhaben zuerst: Wo verläuft die Grenze zwischen Agent und Mensch?
Diese Grenze entsteht selten bewusst. Meist ergibt sie sich aus dem, was die Technik gerade kann. Genau das ist das Problem.
Zwei Fehler, die beide teuer sind
Alles landet beim Menschen. Jede Unsicherheit, jede Abweichung, jede ungewöhnliche Eingabe wird zur Freigabe. Der Mensch wird zum Flaschenhals, und weil er die vielen Fälle nicht mehr durchdringen kann, zeichnet er irgendwann ab, statt zu prüfen.
Nichts landet beim Menschen. Der Agent entscheidet auch dort, wo es um Tragweite, Haftung oder Vertrauen geht. Das geht so lange gut, bis eine Entscheidung danebenliegt, die niemand verantworten wollte und niemand gesehen hat.
Beide Fehler haben dieselbe Ursache: Die Grenze wurde nie gezogen.
Vier Bausteine für klare Grenzen
1. Entscheidungsklassen. Nicht jede Entscheidung braucht dieselbe Aufmerksamkeit. Hilfreich sind drei Klassen: Was der Agent allein entscheidet, was er entscheidet und ein Mensch stichprobenartig prüft, und was nur mit Freigabe passiert. Maßstab sind Tragweite und Umkehrbarkeit: Je teurer ein Fehler und je schwerer er rückgängig zu machen ist, desto näher rückt die Entscheidung zum Menschen.
2. Stop-Kriterien im Prozess. Wann ein Agent anhält, darf nicht im Ermessen des Einzelnen liegen. Es gehört in den Prozess: fehlende oder widersprüchliche Daten, ein überschrittener Schwellenwert, eine Fallart, die bisher nicht vorkam. Klar formuliert, für alle gleich.
3. Übergabe mit Kontext. Hält der Agent an, bekommt der Mensch nicht nur „Bitte freigeben“. Er bekommt den Weg dorthin: was geprüft wurde, warum angehalten wurde und welche Optionen es gibt. Nur so kann er wirklich entscheiden.
4. Benannte Verantwortung. Für jede Entscheidungsklasse ist klar, welche Rolle sie verantwortet. Das gilt für die Entscheidungen des Agenten genauso wie für die des Menschen.
Die Grenze wandert
Je verlässlicher ein Agent arbeitet, desto mehr kann er übernehmen. Das ist gewollt. Entscheidend ist, dass die Grenze bewusst verschoben wird und nicht schleichend.
Dafür reichen wenige Fragen, regelmäßig gestellt: Wie oft hält der Agent an? Wie oft korrigiert der Mensch das Ergebnis? Welche Stop-Kriterien greifen nie, welche ständig? Aus den Antworten folgt, welche Entscheidungen in eine andere Klasse wandern.
Eine Übung für den Start
Nehmen Sie einen Prozess, in dem ein Agent arbeiten soll. Schreiben Sie die zehn häufigsten Entscheidungen darin auf. Ordnen Sie jede einer der drei Klassen zu. Und formulieren Sie für jede Entscheidung, die eine Freigabe braucht, das Stop-Kriterium in einem Satz.
Wo das nicht gelingt, ist nicht der Agent das Problem. Dann ist der Prozess noch nicht klar genug für einen Agenten.
Entscheidungsgrenzen für Ihren Prozess
In einem Erstgespräch schauen wir gemeinsam auf einen Ihrer Prozesse und darauf, wo die Grenze zwischen Agent und Mensch verlaufen sollte.
Termin anfragenWo hat KI in Ihren kaufmännischen Prozessen den größten Hebel?
15 Min. ErstgesprächKeinen Beitrag verpassen
Neue Beiträge zu Digitalisierung und KI in kaufmännischen Prozessen per E-Mail. Abmeldung jederzeit mit einem Klick.