Human in the Loop: Warum die KI in weclapp nie allein schreibt

„Human in the Loop“ steht inzwischen in fast jeder KI-Präsentation. Gemeint ist: Ein Mensch entscheidet, bevor die KI etwas Folgenreiches tut. Im ERP ist das keine Stilfrage, denn dort hängen Rechnungen, Bestände und Kundendaten an jeder Änderung.

Dieser Beitrag zeigt, was Human in the Loop beim Schreiben im ERP konkret heißen sollte und woran du erkennst, ob eine Lösung es ernst meint.

Das Wichtigste in Kürze

• Human in the Loop heißt: Du entscheidest vor dem Schreiben. Die KI bereitet eine Änderung vor, du siehst sie und gibst sie frei oder lehnst sie ab.
• Ein Klick auf „Ja“ im Chat reicht nicht. Eine Freigabe schützt erst, wenn du genau siehst, was sich ändert.
• Vier Eigenschaften machen die Freigabe wertvoll. Vorschau, Bindung an das Gesehene, Einmal-Gültigkeit und Protokoll.
• Die Entscheidung bleibt bei dir. Die KI übernimmt das Suchen, Vergleichen und Vorbereiten.

Was bedeutet Human in the Loop?

Human in the Loop heißt: Ein Mensch prüft und entscheidet an der Stelle, an der eine KI etwas Folgenreiches tun würde. Im ERP ist das der Moment vor dem Schreiben.

Die KI bereitet eine Änderung vor, du siehst sie und gibst sie frei oder lehnst sie ab, und erst danach wird geschrieben.

Fazit: Human in the Loop ist der Moment vor dem Schreiben, in dem du eine vorbereitete Änderung freigibst oder ablehnst.

Problem

Lesen ist für eine KI im ERP unkritisch. Sie sucht offene Posten, fasst Tickets zusammen oder vergleicht Preise, und wenn sie sich irrt, liest du eine falsche Antwort. Schreiben ist etwas anderes. Ein falscher Betrag landet in einer Rechnung, ein falscher Status löst einen Versand aus, ein falscher Kunde bekommt eine Mail.

Die OWASP-Liste der größten Risiken für Anwendungen mit Sprachmodellen nennt das übermäßige Handlungsfreiheit: zu viele Funktionen, zu weite Rechte, zu viel Autonomie. Als Gegenmittel empfiehlt sie unter anderem, folgenreiche Aktionen von einem Menschen freigeben zu lassen.

Das Problem ist, dass „freigeben“ sehr Verschiedenes bedeuten kann. Ein Klick auf „Ja, mach“ im Chat, ohne zu sehen, was genau passiert, ist formal eine Freigabe. Geschützt ist damit wenig.

Fazit: Beim Schreiben landen Fehler in Rechnungen, Status und Mails, und eine Freigabe ohne Einblick schützt kaum.

Lösung

Damit eine Freigabe im ERP etwas wert ist, braucht sie vier Eigenschaften:

• Du siehst vorher, was passiert. Keine Zusammenfassung, sondern die Felder, die sich ändern, mit altem und neuem Wert.
• Die Freigabe gilt nur für das, was du gesehen hast. Ändert sich danach auch nur ein Wert, braucht es eine neue Vorschau und eine neue Freigabe.
• Die Freigabe gilt einmal. Sie lässt sich nicht für eine zweite, ähnliche Änderung wiederverwenden.
• Danach steht im Protokoll, wer was freigegeben hat. Auch Wochen später.

Auch die Spezifikation des Model Context Protocol, über das KI-Assistenten an Systeme angebunden werden, empfiehlt für Werkzeugaufrufe einen Menschen, der Aufrufe ablehnen kann. Wie streng das umgesetzt wird, entscheidet jede Lösung selbst.

Fazit: Eine Freigabe zählt, wenn du die Änderung vorher siehst, sie nur für das Gesehene und nur einmal gilt und das Protokoll sie festhält.

Beispiel: eine Lieferadresse ändern

Ein Kunde meldet per Mail eine neue Lieferadresse für Auftrag 1042. Du bittest deinen Assistenten, sie einzutragen.

• Vorschau. Der Assistent liest den Auftrag und zeigt dir die Änderung: Straße und Postleitzahl alt und neu. Noch ist nichts geschrieben.
• Freigabe. Du prüfst und gibst frei. Die Freigabe ist an genau diesen Auftrag und genau diese Werte gebunden.
• Ausführung. Erst jetzt schreibt der Assistent in weclapp. Hätte er zwischendurch eine Ziffer der Postleitzahl geändert, wäre die Ausführung abgelehnt worden.
• Protokoll. Der Eintrag zeigt Zeitpunkt, Person, Aktion und Ergebnis, ohne den Inhalt deiner Daten zu speichern. Im Dashboard siehst du das Protokoll ab dem Tarif Pro.

Fazit: Vorschau, Freigabe, Ausführung, Protokoll: Geschrieben wird erst nach deiner Freigabe, und eine geänderte Ziffer lehnt die Ausführung ab.

So geht es mit weclapp

wals.pro AI 4 weclapp verbindet deinen eigenen KI-Assistenten, etwa Claude oder ChatGPT, mit deinem weclapp-Mandanten. Die KI schreibt nie ungefragt: Vorschau, Freigabe, Protokoll.

Jede Freigabe ist eine payload-gebundene Einmal-Freigabe per SHA-256: Sie gilt nur für die Änderung, die du in der Vorschau gesehen hast, nur für dich, nur für diesen Datensatz und nur einmal. Eine nicht registrierte Aktion lässt sich gar nicht ausführen.

Wird dieselbe Freigabe nach einem Verbindungsabbruch erneut eingereicht, schreibt der Server nicht doppelt, sondern meldet das Ergebnis, das er schon kennt. Aktionen, die in weclapp eine E-Mail auslösen können, brauchen zusätzlich deine ausdrückliche Zustimmung zu diesem Versand.

Wie das im Detail abläuft und wie es sich von anderen Wegen unterscheidet, zeigt die Übersicht KI in weclapp schreiben lassen.

Fazit: Jede Freigabe gilt nur für deine Vorschau, nur für dich, nur für diesen Datensatz und nur einmal.

Ergebnis

Human in the Loop wird prüfbar. Du musst niemandem glauben, dass die KI „schon aufpasst“, sondern siehst jede Änderung vorher, gibst sie selbst frei und findest sie später im Protokoll.

Die KI übernimmt das Suchen, Vergleichen und Vorbereiten. Die Entscheidung bleibt bei dir.

Fazit: Du siehst jede Änderung vorher, gibst sie selbst frei und findest sie später im Protokoll.

Was es nicht ist

• Kein Autopilot: Ohne deine Freigabe wird nichts geschrieben, auch keine „kleinen“ Korrekturen.
• Keine Garantie gegen Fehlentscheidungen: Wer eine falsche Vorschau freigibt, schreibt einen falschen Wert. Die Vorschau macht den Fehler aber sichtbar, bevor er passiert.
• Gelöscht wird nur einzeln, nach einer Vorschau mit dem Datensatz und deiner Freigabe, und jede Löschung wird protokolliert.

Fazit: Die Freigabe ersetzt nicht deine Prüfung, sie macht Fehler nur sichtbar, bevor sie passieren.

Der nächste Schritt

Je nach Setup bist du in 0,5 bis 3 Stunden startklar. Am besten beginnst du lesend und schaltest das Schreiben später frei, pro Person und pro Aktion. Einen breiteren Überblick gibt der Beitrag KI direkt mit weclapp nutzen.

Mehr zum Produkt findest du auf der Seite wals.pro AI 4 weclapp. Registrieren kannst du dich unter ai.wals.pro, oder du buchst dir einen Termin.

Fazit: Starte lesend und schalte das Schreiben später frei, pro Person und pro Aktion.

Quellen und Grenzen

• OWASP: übermäßige Handlungsfreiheit (Stand der Veröffentlichung, 01.11.2026)
• Model Context Protocol: Spezifikation zu Werkzeugen (Stand der Veröffentlichung, 01.11.2026)

Die Beschreibung der Freigabe stammt aus unserer Projekterfahrung mit wals.pro AI 4 weclapp. Die Freigabe schützt nicht vor einer falschen Entscheidung: Wer eine falsche Vorschau freigibt, schreibt einen falschen Wert. Den Protokollzugriff im Dashboard gibt es ab dem Tarif Pro.

Häufige Fragen

Was bedeutet Human in the Loop im ERP?

Ein Mensch prüft und entscheidet an der Stelle, an der eine KI etwas Folgenreiches tun würde. Im ERP ist das der Moment vor dem Schreiben: Die KI bereitet eine Änderung vor, du gibst sie frei oder lehnst sie ab.

Warum reicht ein Klick auf „Ja“ im Chat nicht?

Ein Klick auf „Ja, mach“, ohne zu sehen, was genau passiert, ist formal eine Freigabe, schützt aber wenig. Eine Freigabe braucht eine Vorschau mit altem und neuem Wert, die Bindung an das Gesehene, Einmal-Gültigkeit und ein Protokoll.

Was passiert, wenn sich nach der Freigabe ein Wert ändert?

Dann wird die Ausführung abgelehnt. Die Freigabe gilt nur für das, was du gesehen hast, und eine geänderte Ziffer braucht eine neue Vorschau und eine neue Freigabe.

Kann dieselbe Freigabe doppelt schreiben?

Nein. Die Freigabe gilt einmal. Wird sie nach einem Verbindungsabbruch erneut eingereicht, schreibt der Server nicht doppelt, sondern meldet das Ergebnis, das er schon kennt.

Löscht die KI Daten ohne Rückfrage?

Nein. Gelöscht wird nur einzeln, nach einer Vorschau mit dem Datensatz und deiner Freigabe, und jede Löschung wird protokolliert.