KI automatisiert soweit es geht — aber bei Unsicherheit oder Widerspruch entscheidet ein Mensch.
Human-in-the-Loop (HITL) ist das Designprinzip bei dem KI nicht vollständig autonom handelt, sondern bei definierten Bedingungen eine menschliche Entscheidung einholt. Typische Trigger: Konfidenz unter Schwellwert, Widerspruch zwischen Modellen, Betrag über X Euro, unbekannter Kontakt. Das Gegenteil ist Straight-Through-Processing (STP): KI entscheidet und handelt ohne menschliche Kontrolle. In sicherheitskritischen Bereichen (Medizin, Finanzen, Recht) ist HITL oft regulatorisch vorgeschrieben.
docpipe klassifiziert Dokumente automatisch — aber bei Fuzzy-Match-Score unter 90% landet das Dokument in der Review Queue statt automatisch verarbeitet zu werden.