Die Frage, ob KI selbstständig Antworten versenden darf, wird oft als Prinzipienfrage gestellt. Das ist sie nicht. Es ist eine Einrichtungsfrage, und die Antwort ist je nach Nachrichtentyp unterschiedlich.

Drei Stufen, kein An-Aus-Schalter

In der Praxis arbeiten drei Modi nebeneinander:

• Assistent. Die KI schreibt einen Entwurf, der Mitarbeitende beurteilt und versendet. Immer ein Mensch dazwischen.
• Vorschlag mit Schwelle. Die KI versendet selbst, aber nur wenn die Sicherheit über einer Grenze liegt und das Thema auf der freigegebenen Liste steht.
• Vollautomatisch. Für eine kleine, scharf abgegrenzte Zahl von Fragen, deren Antwort objektiv feststeht.

Der Fehler, den Organisationen machen, ist die Wahl zwischen allem oder nichts. Der Gewinn liegt in der Unterscheidung: Lass die Kategorie bestimmen, welcher Modus gilt.

Wo automatisches Versenden vertretbar ist

Zwei Bedingungen. Erstens: Die Antwort folgt aus Daten, nicht aus einem Urteil — wo ist mein Paket, was ist der Status meiner Retoure, wann habt ihr geöffnet. Zweitens: Der Schaden eines Fehlers ist begrenzt und behebbar.

Bei einem falschen Lieferdatum schickst du eine Korrektur. Bei einem falschen Rat zu einem medizinischen Hilfsmittel oder einer unberechtigten Zusage über eine Erstattung sieht das anders aus.

Wo ein Mensch draufschauen muss

• Beschwerden und Emotionen. Nicht weil die KI es nicht formulieren könnte, sondern weil der Kunde will, dass es jemand gelesen hat.
• Alles mit Geld. Kulanz, Rabatte, Gutschriften.
• Ausnahmen. Genau dort fehlt das Muster, auf das sich das Modell stützt.
• Recht und Sicherheit. Versteht sich von selbst.

Der Sicherheitswert: nützlich, aber keine Garantie

Ein Sicherheitsprozentsatz gibt an, wie gut die Frage zu dem passt, was das System kennt. Das ist brauchbar, um eine Schwelle zu setzen, aber es ist kein Wahrheitsmesser. Ein Modell kann mit hoher Sicherheit die falsche Antwort geben, wenn es von veralteten Informationen ausgeht.

Behandle den Wert daher als erste Siebstufe, nicht als einzige. Kombiniere ihn mit der Kategorie und mit nachträglicher Kontrolle.

Stichproben sind nicht optional

Wer automatisch versenden lässt, ohne mitzuschauen, merkt erst, dass etwas schiefging, wenn ein Kunde sich beschwert. Lies wöchentlich eine Stichprobe dessen nach, was automatisch versendet wurde. Nicht aus Misstrauen, sondern weil du so entdeckst, welche Kategorien du dazunehmen kannst — und welche zurück müssen.

Was du vorab festlegen musst

• Welche Kategorien automatisch dürfen, und wer das entscheidet
• Bei welcher Sicherheitsgrenze
• Wer die Stichprobe macht und wie oft
• Was bei Zweifel passiert: lieber an einen Menschen weiterleiten als raten
• Ob der Kunde sehen kann, dass eine Antwort automatisch entstanden ist

Der letzte Punkt ist eine Entscheidung mit Folgen. Transparenz schafft Vertrauen, kann aber auch den Eindruck erwecken, dass der Kunde nicht ernst genommen wird. Es gibt keine allgemein richtige Antwort; wohl aber eine, die zu deinen Kunden passt.

Wachse Schritt für Schritt

Beginne mit dem Assistieren, miss, wie viel der Mitarbeitende noch anpasst, und erweitere erst dort, wo dieser Anteil niedrig ist. Diese Zahl ist der beste Gradmesser, den es gibt: Wenn kaum noch etwas angepasst wird, ist die Kategorie reif für automatisches Versenden.

So haben wir die menschliche Kontrolle eingerichtet: Du bestimmst pro Kategorie, was passiert. Nimm Kontakt auf, wenn du darüber sparren willst, was zu deiner Organisation passt.