Menschliche Freigabe ist ein Feature

Es gibt ein verbreitetes Bild von KI-Agenten, die ein Unternehmen selbstständig führen: Nachrichten lesen, entscheiden, antworten, Datensätze aktualisieren, Geld bewegen. Vorführungen davon sind beeindruckend. Einen echten Betrieb so zu führen, ist etwas anderes.

In den Systemen, die wir für unsere eigenen Unternehmen bauen, leistet KI sehr viel Arbeit. Sie klassifiziert eingehende Nachrichten, extrahiert Details, entwirft Antworten und schlägt nächste Schritte vor. Aber alles Folgenreiche geht zuerst an einen Menschen. Diesen Freigabeschritt verstehen wir als Feature, nicht als Einschränkung.

Wo KI ihren Platz verdient

Die besten Einsatzfelder, die wir gefunden haben, sind die repetitiven, informationslastigen Schritte, die einen Betrieb bremsen: die Nachricht eines Kunden lesen und herausfinden, was er möchte, die zugehörige Bestellung finden, die relevanten Details zusammentragen, eine Antwort vorbereiten. KI erledigt das schnell und meist gut, und ein Mensch kann das Ergebnis in Sekunden prüfen.

Das ist echte Hebelwirkung. Ein kleines Team kann weit mehr Konversationen bewältigen, ohne an Qualität zu verlieren, weil das System vorbereitet und der Mensch entscheidet.

Warum der Mensch bleibt

Dafür gibt es drei Gründe. Erstens sind Fehler asymmetrisch: Eine falsche Antwort an einen Kunden, eine doppelte Erstattung oder ein falscher Datensatz kosten mehr als die Zeit, die man durch das Überspringen einer Prüfung spart. Zweitens Vertrauen: Kunden und Partner müssen wissen, dass ein Mensch für das einsteht, was das Unternehmen sagt und tut. Drittens Lernen: Wenn Menschen freigeben und korrigieren, lernt der Betrieb, wie gute Arbeit aussieht, und dieses Wissen gehört dem Unternehmen, nicht einem Modellanbieter.

Auf Freigabe hin gestalten

Menschliche Freigabe funktioniert nur, wenn sie von Anfang an eingeplant ist. In Operanto, der operativen Schicht, die wir für unsere Unternehmen entwickeln, folgen daraus einige Regeln:

• Nachrichten werden zuerst gespeichert und danach verarbeitet, damit nichts verloren geht, wenn ein Schritt fehlschlägt.
• Ausgehende Automatisierung ist standardmäßig deaktiviert und muss bewusst eingeschaltet werden.
• Folgenreiche ausgehende Nachrichten erfordern die Freigabe durch einen Menschen.
• Jede Aktion wird protokolliert: wer sie angefordert hat, was getan wurde und warum es zulässig war.
• Der KI-Anbieter kann wechseln, ohne dass der Ablauf neu gebaut werden muss.

Autonomie wird Schritt für Schritt verdient

Das heißt nicht, dass das System nie allein handeln darf. Manche Schritte werden sich als so verlässlich erweisen, dass eine Freigabe nichts mehr hinzufügt. Diese lassen sich guten Gewissens automatisieren, weil Aufzeichnungen zeigen, warum. Autonomie wird Schritt für Schritt verdient, mit Belegen. Das ist langsamer als eine Vorführung. Es ist aber auch der Weg, auf dem ein Unternehmen zu einer Automatisierung kommt, auf die es sich verlassen kann.