Neues aus der Werkstatt #2
Artikel von Anne Loeck in der Kategorie Künstliche Intelligenz
Human in the Loop: Warum KI ohne Eskalationslogik nicht funktioniert
Lesezeit: ca. 4 Minuten
Angeregt zu diesem Beitrag hat mich ein Newsletter der academy4.ai, den ich vor Kurzem gelesen habe. Darin ging es genau um diese Lücke: Human in the Loop steht überall, der Moment, in dem der Mensch tatsächlich übernimmt, dagegen kaum irgendwo. Der Gedanke hat mich nicht mehr losgelassen, weil er so präzise beschreibt, was ich in Projekten seit Jahren beobachte – nur jetzt mit KI.
In den letzten Monaten habe ich viele KI-Konzepte gesehen. Fast alle enthalten einen beruhigenden Satz: „Die Ergebnisse werden durch einen Menschen geprüft.“ Human in the Loop – der Mensch bleibt in der Schleife.
Das klingt gut. Meistens fehlt aber die entscheidende Information: Wann genau ist dieser Mensch dran? Bei welchem Fall, ab welcher Schwelle, mit welcher Befugnis?
Wer meinen ersten Werkstatt-Beitrag gelesen hat, erkennt das Muster. Zuständigkeiten, die auf dem Papier stehen, aber im Alltag niemand wahrnimmt. Mit KI wird dieses alte Problem nicht kleiner. Es wird schneller.
Was Eskalationslogik eigentlich bedeutet:
Eskalationslogik ist die verbindliche Regel, ab welchem Punkt ein KI-System aufhört, selbst zu handeln, und den Fall an einen Menschen übergibt.
Nicht „im Zweifel schaut schon jemand drüber“, sondern:
- ein definierter Auslöser wie z. B. eine Beschwerde, ein Betrag über einer festgelegten Grenze, vertrauliche Daten,
- eine ungewöhnliche Anfrage oder schlicht Unsicherheit im Ergebnis, eine definierte Zuständigkeit,
- eine konkrete Person mit Namen, nicht „das Team“,
- ein definierter Weg und wie der Fall übergeben wird, bis wann reagiert werden muss und wer vertritt, wenn diese Person nicht da ist.
Fehlt einer dieser Punkte, ist "Human in the Loop" keine Kontrolle, sondern eine Absichtserklärung.
Ein mögliches Szenario:
Ein Unternehmen setzt KI ein, um Kundenanfragen vorzusortieren und Antwortentwürfe zu schreiben. Das funktioniert erstaunlich gut. Die Mitarbeitenden sparen Zeit, die Antworten sind freundlich und schnell.
Dann schreibt ein langjähriger Großkunde. Der Ton ist sachlich, zwischen den Zeilen liegt aber deutliche Verärgerung – vielleicht sogar eine angedeutete Kündigung. Die KI erkennt eine Standardanfrage und schickt eine höfliche Standardantwort.
Niemand hat etwas falsch gemacht. Es hat nur nie jemand festgelegt, dass Nachrichten von Schlüsselkunden oder mit Kündigungssignalen immer bei einem Menschen landen. Der Mensch war formal „im Loop“. Er wusste nur nicht, dass er gebraucht wurde.
Warum das keine Technikfrage ist:
Die Frage, wann ein Mensch übernimmt, lässt sich nicht an die IT delegieren. Sie ist eine Organisationsfrage: Wer darf wann was entscheiden? Welche Risiken wollen wir tragen? Wo brauchen wir Urteilsvermögen statt Geschwindigkeit?
Auch der Gesetzgeber sieht das so. Der EU AI Act verlangt für Hochrisiko-KI-Systeme in Artikel 14 eine menschliche Aufsicht, die tatsächlich wirksam ist. Ein Häkchen in einer Checkliste reicht dafür nicht. Und auch dort, wo das Gesetz nicht greift, gilt: Eine Kontrolle, die im Ernstfall niemand ausübt, schützt niemanden.
„KI braucht keinen Menschen, der theoretisch zuständig ist. Sie braucht einen Menschen, der weiß, wann er dran ist.“ – Anne Loeck
Wo ich ins Spiel komme:
An dieser Stelle arbeite ich. Nicht als KI-Entwicklerin, sondern dort, wo ich immer arbeite: zwischen Menschen, Prozessen und Entscheidungen. Für meine Kundinnen und Kunden übernehme ich die Rolle des "Human in the Loop" auf mehreren Ebenen.
Ich definiere die Übergabepunkte, bevor die KI live geht. Gemeinsam mit Führungskräften und Fachbereichen kläre ich, welche Fälle die KI selbst bearbeiten darf und welche nicht. Daraus entsteht eine Eskalationslogik, die so klar ist, dass sie auch unter Zeitdruck funktioniert.
Ich bin der Mensch im Loop. Als Interim Assistenz oder PMO prüfe ich KI-Ergebnisse, gebe frei, stoppe oder eskaliere. Dabei bringe ich etwas mit, das keine KI hat: Kontext. Ich stelle Fragen wie z. B. welcher Kunde gerade sensibel ist, welches Projekt politisch heikel ist und welche Entscheidung eigentlich schon gefallen ist, auch wenn sie noch nirgends steht.
Ich bringe den Fall zur richtigen Person. Eskalieren heißt nicht, ein Problem weiterzureichen. Es heißt, die richtige Information zur richtigen Zeit bei der Person abzulegen, die tatsächlich entscheidet – aufbereitet, sodass sie entscheiden kann.
Ich sorge dafür, dass der Loop nicht in den Urlaub fährt. Die schönste Eskalationslogik scheitert, wenn die zuständige Person krank ist oder im Urlaub. Vertretungen, Fristen und klare Übergaben gehören deshalb von Anfang an dazu.
Ich dokumentiere und schärfe nach. Jede Eskalation ist eine Information: Wo ist die KI unsicher? Wo sind die Regeln zu eng oder zu weit? Diese Erfahrungen fließen zurück in die Regeln. So wird aus einem Konzept ein System, das mit der Zeit besser wird – und das sich im Zweifel auch nachweisen lässt.
Die vier Fragen – diesmal für KI
Im ersten Werkstatt-Beitrag habe ich vier Fragen beschrieben, ohne die Projekte nicht vorankommen. Für KI gelten sie genauso, nur konkreter:
1 Wer entscheidet, wenn die KI nicht weiter weiß (konkret, nicht nur auf dem Papier?
2 Wer wird von wem informiert, wenn ein Fall eskaliert und in welchen Zeitraum?
3 Was hat Priorität, wenn Geschwindigkeit und Sorgfalt kollidieren und wer entscheidet das?
4 Welche Aufgaben gehören überhaupt in KI-Hände – und welche bewusst nicht?
Wer diese Fragen beantwortet hat, bevor ein KI-System startet, hat mehr gewonnen als mit jedem weiteren Tool.
Aus der Werkstatt
KI wird vieles schneller machen. Aber sie nimmt uns nicht die Verantwortung ab, festzulegen, wann ein Mensch hinschauen muss. Das ist keine glamouröse Aufgabe. Es ist Strukturarbeit – genau die Art von Grundlagenarbeit, die gesundes Wachstum möglich macht.
Wenn Sie gerade KI in Ihre Abläufe bringen und sich fragen, wer eigentlich „im Loop“ ist und wann, sprechen Sie mich gern an. Oft reicht ein Erstgespräch, um die ersten Übergabepunkte sichtbar zu machen.
Ihre Anne Loeck