Kurz gesagt: Ein Fehler, den Ihr Team sieht, wird korrigiert. Er kostet Zeit. Ein Fehler, den niemand sieht, kostet Vertrauen oder bleibt für immer. Wer KI-Automatisierung plant, sollte deshalb nicht fragen, wie oft ein Fehler passiert, sondern ob er auffällt.
Zwei Arten von Fehlern
Stellen Sie sich zwei Situationen vor.
In der ersten schreibt eine KI einen Antwortentwurf auf eine Kundenmail. Der Entwurf ist zu förmlich und nennt einen falschen Ansprechpartner. Ihr Mitarbeiter liest ihn, korrigiert zwei Sätze und schickt ihn ab. Der Fehler hat eine Minute gekostet.
In der zweiten sortiert eine KI eingehende Anfragen automatisch aus, die nicht zum Kerngeschäft passen. Eine gute Anfrage landet versehentlich im Ausschuss. Niemand sieht sie je. Der Kunde wartet, hört nichts und geht zum Wettbewerber.
Der zweite Fehler passiert vielleicht seltener. Er ist trotzdem der teurere. Und er taucht in keiner Fehlerstatistik auf, weil niemand einen Fehler melden kann, den er nie gesehen hat.
Priorität nach Sichtbarkeit
In dem Vertriebstool, das ich gerade mit einem Partner baue, haben wir alle Stellen aufgelistet, an denen über die Qualität einer Firma entschieden wird. Danach haben wir sie nicht nach Wahrscheinlichkeit sortiert, sondern nach Sichtbarkeit.
Die Leitfrage war: Wenn hier etwas falsch läuft, sieht es der Nutzer?
- Sichtbar: Eine Telefonnummer fehlt. Der Nutzer sieht das leere Feld und sucht selbst. Ärgerlich, aber harmlos.
- Halb sichtbar: Eine Nummer ist falsch. Der Nutzer merkt es erst beim Anruf. Kostet Zeit und ein bisschen Vertrauen.
- Unsichtbar: Eine gute Firma wird als Dublette oder Sammelseite aussortiert. Sie erscheint nie in der Liste. Niemand vermisst sie.
Die unsichtbaren Stellen bekommen die strengsten Schwellen. Bei uns heißt das: Kein guter Lead darf fälschlich aussortiert werden. Nicht wenige, keiner.
Wo ein Mensch fehlt, wird die Anzeige zur Entscheidung
Besonders gefährlich sind Abläufe, in denen kein Mensch mehr hinsieht. Solange eine Mitarbeiterin jede Ampel selbst anschaut, ist die Ampel eine Anzeige. Sie kann sie hinterfragen.
Sobald ein Prozess automatisch weiterläuft, ist die Ampel keine Anzeige mehr, sondern die Entscheidung. Rot heißt dann: wird nicht bearbeitet. Ohne dass jemand es merkt.
Das ist der Moment, in dem die Fehlerart wechselt. Ein Fehler, der vorher sichtbar war, wird unsichtbar. Deshalb gilt bei jedem Schritt, den Sie vollautomatisch laufen lassen: Die Qualitätsanforderung steigt.
Im Zweifel nicht aussortieren
Daraus folgt eine Regel, die sich durch alle meine Projekte zieht: Im Zweifel nicht aussortieren, sondern markieren.
Wenn das System unsicher ist, ob eine Firma passt, kommt sie mit einem Warnhinweis in die Liste. Lieber ein Reiterhof zu viel in der Liste als ein Saunaverleih zu wenig. Der Reiterhof kostet einen Blick und ein Wischen. Der fehlende Saunaverleih kostet einen Auftrag, von dem niemand weiß.
Das gleiche Prinzip gilt bei E-Mail-Automatisierung. Wenn ich für Kunden ein System baue, das Posteingänge sortiert, gibt es immer eine Kategorie „Unklar“. Ohne sie produziert das Modell selbstbewusste Fehlentscheidungen statt ehrlicher Lücken. Ein ehrliches „Unklar“ ist mehr wert als eine selbstsichere falsche Einordnung.
Zu wenig wird nicht als Fehler erlebt
Es gibt noch eine zweite Form von Unsichtbarkeit, die oft übersehen wird. Ein Werkzeug, das zu wenig liefert, wird nicht als fehlerhaft erlebt, sondern als mäßig.
Wenn Ihr neues System statt 80 nur 30 passende Firmen findet, beschwert sich niemand. Der Nutzer denkt: Na ja, mehr gibt es wohl nicht. Oder er geht zurück zu seinem alten Weg, ohne je einen Fehler zu melden. In beiden Fällen erfahren Sie nicht, dass etwas nicht stimmt.
Das bedeutet: Sie müssen auch messen, was fehlt. Nicht nur, ob das Gefundene stimmt.
Ein sichtbarer Fehler ist schlimm genug
Damit kein falscher Eindruck entsteht: Auch sichtbare Fehler kosten. Nur auf andere Weise.
In einer Vorführung des Vertriebstools vor erfahrenen Vertrieblern hat die KI-Anreicherung live das Impressum einer Sammelseite in mehrere Firmen geschrieben. Eine Teilnehmerin sagte sofort: „Aber dann lösche ich doch alle raus.“
Ein einziger sichtbarer Datenfehler hat in diesem Moment mehr Vertrauen gekostet als zehn fehlende Funktionen. Datenqualität ist der Vertrauenskiller, nicht fehlende Features.
Die Lehre daraus: Sichtbare Fehler müssen selten sein, unsichtbare Fehler müssen ausgeschlossen sein. Beides gleichzeitig.
Was nie automatisch passieren sollte
Aus diesen Überlegungen ergeben sich für mich ein paar feste Grundsätze, die ich bei jedem Automatisierungsprojekt anwende:
- Nichts verlässt das Haus ohne Freigabe. Ein Agent, der Mails beantwortet, schreibt Entwürfe. Er sendet nicht.
- Keine erfundenen Fakten in Entwürfen. Wenn ein Preis oder Termin nicht aus einer Quelle kommt, steht im Entwurf eine sichtbare Lücke, die ein Mensch füllen muss.
- Rückgängig statt Nachfrage. Massenänderungen wie ein Import zeigen vorher, was passieren wird, und lassen sich komplett zurücknehmen.
- Aussortiertes bleibt einsehbar. Was das System verwirft, landet nicht im Nichts, sondern in einer Liste, die man stichprobenartig prüfen kann.
Was das für Sie heißt
Gehen Sie Ihren geplanten oder laufenden KI-Prozess Schritt für Schritt durch und fragen Sie an jeder Stelle:
- Wenn hier etwas schiefgeht, sieht es jemand? Wenn nein, ist das Ihre kritischste Stelle.
- Was passiert im Zweifel? Aussortieren oder markieren?
- Gibt es eine Kategorie für „weiß ich nicht“?
- Was verlässt Ihr Unternehmen, ohne dass ein Mensch es gesehen hat?
- Messen Sie, was fehlt, oder nur, was da ist?
Die beste Automatisierung macht Fehler nicht unmöglich. Sie sorgt dafür, dass sie auffallen.
Wie Sie messen, ob die sichtbaren Ergebnisse gut genug sind, steht in Woran Sie erkennen, ob Ihre KI gut genug ist. Im Helpdesk heißt „sichtbar“ ganz praktisch: Die KI schreibt Entwürfe, ein Mensch schickt sie ab. So arbeitet auch Support-Wissen für Online-Shops.
Wenn Sie wissen möchten, wo in Ihrem Prozess die unsichtbaren Stellen liegen, gehen wir das im Erstgespräch gemeinsam durch.
