Human in the Loop: wo der Mensch im automatisierten Ablauf entscheidet

Human in the Loop bezeichnet einen automatisierten Ablauf, in dem ein Mensch an festgelegten Punkten prüft, korrigiert oder freigibt, bevor ein Ergebnis wirksam wird. Typisch ist die Arbeitsteilung: Software oder KI bereitet einen Entwurf vor, eine zuständige Person entscheidet. Der Mensch ist dabei keine Notlösung für schwache Technik, sondern ein geplanter Teil der Konstruktion.

Human in the Loop: was der Begriff meint

Der Begriff ist im maschinellen Lernen verbreitet und wird heute vor allem für Anwendungen mit Sprachmodellen verwendet. Gemeint ist eine bewusste Entscheidung beim Entwurf eines Ablaufs: An dieser Stelle hat ein Mensch das letzte Wort, und der Ablauf wartet auf ihn.

Abzugrenzen sind zwei Nachbarn. Im vollautomatischen Ablauf entscheidet im Einzelfall niemand mehr; das Ziel dort heißt Dunkelverarbeitung. Im manuellen Ablauf mit Softwareunterstützung erledigt der Mensch die Arbeit selbst, und das Programm speichert nur. Die Variante mit dem Menschen in der Schleife liegt dazwischen: Die Arbeit ist vorbereitet, die Verantwortung bleibt bei einer benannten Person.

Drei Formen: freigeben, stichprobenartig prüfen, Ausnahmen klären

• Freigabe jedes Falls. Nichts wird wirksam, bevor jemand bestätigt. Angemessen, wo ein Fehler nach außen dringt: ein Angebot, eine Antwort an einen Kunden, eine Gutschrift.
• Stichprobe. Die Fälle laufen durch, ein Teil wird nachträglich geprüft. Angemessen, wo Fehler intern bleiben und sich korrigieren lassen, etwa bei der Zuordnung von Belegen.
• Klärung von Ausnahmen. Der Ablauf entscheidet selbst und legt nur Fälle vor, die nicht in die Regel passen. In dieser Form hat ein Mensch den größten Hebel, weil er nur noch das Ungewöhnliche sieht.

Viele Abläufe beginnen mit der ersten Form und wechseln fallgruppenweise zur dritten, sobald belegt ist, dass die Entwürfe verlässlich sind. Dieser Wechsel ist eine Entscheidung der Geschäftsleitung oder der Fachabteilung, keine Einstellung, die sich unbemerkt verschiebt.

Human in the Loop im Auftragsweg: wo Freigaben hingehören

Zwischen Anfrage und Zahlung gibt es Stationen, an denen eine Freigabe fast immer lohnt, und solche, an denen sie nur aufhält:

• Antwort auf eine Anfrage. Ein Sprachmodell kann das Anliegen erkennen und eine Antwort entwerfen. Ton, Zusagen und Preise wirken aber nach außen, deshalb liegt die Freigabe bei der Person, die den Kunden betreut.
• Angebot. Positionen und Mengen lassen sich vorbereiten; Rabatt, Liefertermin und Sonderkonditionen sind Entscheidungen.
• Auftragsbestätigung. Stimmt der Auftrag mit dem Angebot überein, braucht es keinen Menschen. Weicht er ab, gehört er vorgelegt.
• Rechnung. Aus vollständig gemeldeter Leistung meist ohne Freigabe; mit Freigabe bei Gutschriften, Teilrechnungen und Nachträgen.
• Zahlung und Mahnung. Die Zuordnung über eindeutige Nummern kommt ohne Menschen aus, die Mahnung an einen langjährigen Kunden besser nicht.

Die Regel dahinter: Eine Freigabe gehört dorthin, wo eine Entscheidung fällt, und nicht dorthin, wo nur Daten weitergereicht werden. Wie der gesamte Weg zusammenhängt, beschreibt der Artikel Auftragsabwicklung automatisieren.

Wie eine Freigabe gebaut sein muss

Eine Freigabe, die nur „OK“ oder „Abbrechen“ anbietet, wird nach kurzer Zeit blind geklickt. Brauchbar ist sie, wenn sie vier Dinge leistet:

1. Den Entwurf mit seiner Grundlage zeigen. Woraus die Antwort, der Preis oder die Zuordnung abgeleitet wurde: die Quelle, nicht nur das Ergebnis.
2. Korrigieren statt neu schreiben. Die Person ändert den Entwurf direkt, und der Ablauf läuft mit der korrigierten Fassung weiter.
3. Korrekturen auswerten. Jede Änderung zeigt, wo Regeln oder Wissensbasis nachgeschärft werden müssen. Was immer wieder korrigiert wird, wird zur Regel.
4. Zuständigkeit und Vertretung festlegen. Ein Entwurf, der tagelang auf eine abwesende Person wartet, ist langsamer als Handarbeit.

Wie gut das Zusammenspiel funktioniert, zeigen zwei Größen: die Abdeckung mit KI-Entwürfen, also der Anteil der Vorgänge, für die überhaupt ein Entwurf entsteht, und der Anteil der Entwürfe, die ohne Änderung freigegeben werden. Beide gehören zu den Prozesskennzahlen eines solchen Ablaufs.

Typische Fehler

• Freigabe überall. Wer jeden Schritt bestätigen lässt, hat einen langsameren manuellen Ablauf gebaut und die Aufmerksamkeit der Prüfenden verbraucht, bevor es auf sie ankommt.
• Freigabe als Alibi. Die Person bestätigt, sieht aber nicht, worauf der Entwurf beruht. Formal liegt die Verantwortung beim Menschen, tatsächlich entscheidet das Programm.
• Keine Rückkopplung. Korrekturen verschwinden im Einzelfall, und derselbe Fehler kommt am nächsten Tag wieder.
• Wissen nur im Kopf. Die Regeln, nach denen eine erfahrene Kollegin Anfragen beantwortet, stehen nirgends. Ein Entwurf ist nur so gut wie das aufgeschriebene Wissen; in einem Projekt wurden 50 Regeln aus dem Chatverlauf an einem Tag in eine produktive Wissensbasis übertragen.
• Stufenwechsel ohne Beleg. Aus „mit Freigabe“ wird „automatisch“, weil es lange gut ging, ohne dass gezählt wurde, wie viele Entwürfe tatsächlich unverändert blieben.

Wie wir Freigaben zuschneiden

Wir setzen den Menschen dort ein, wo im Auftragsweg entschieden wird, und nehmen ihm die Vorbereitung ab. In einem Posteingang für Kundenanfragen, den wir aufgebaut haben, laufen E-Mail, WhatsApp, Instagram Direct und Website-Chat zusammen: Den Antwortentwurf bereitet KI vor, ein Mensch gibt ihn frei, und ob mit Freigabe oder automatisch geantwortet wird, ist je Unternehmen festgelegt. Welche Freigabepunkte ein Ablauf bekommt, klären wir mit dem Auftraggeber an echten Vorgängen, bevor gebaut wird: in der KI-Beratung für den Mittelstand oder direkt im Rahmen der Workflow-Automatisierung.