Zeig mir, wie es schiefgeht
Wer beruflich mit KI zu tun hat, sieht viele Vorführungen. Sie unterscheiden sich in den Farben und im Tempo, aber sie zeigen alle dasselbe: den Weg, auf dem alles funktioniert. Ich habe mir angewöhnt, nach dem anderen Weg zu fragen — und daran erkennt man mehr als an jeder Funktionsliste.
Der Ablauf ist überall gleich. Eine Aufgabe wird gestellt, das Werkzeug arbeitet, ein sauberes Ergebnis erscheint, im Raum nickt man anerkennend. Das Beispiel ist gut gewählt, die Daten sind vollständig, der Fall ist typisch. Am Ende steht der Eindruck: Das läuft.
Das ist kein Vorwurf. Wer etwas vorführt, will überzeugen, und niemand führt absichtlich einen Reinfall vor. Nur beantwortet diese Art der Vorführung genau die Frage nicht, die im Betrieb zählt.
Obergrenze und Untergrenze
Eine Vorführung zeigt, was ein Werkzeug im besten Fall kann. Im Alltag entscheidet aber selten der beste Fall. Es entscheidet der mittelmäßige: unvollständige Angaben, ein Sonderfall, ein Dokument, das anders aufgebaut ist als die anderen neunhundert.
Was ein Werkzeug in solchen Situationen tut, sieht man in keiner Vorführung — und es ist der einzige Punkt, an dem sich Produkte tatsächlich unterscheiden. Denn im guten Fall sind sie inzwischen alle brauchbar.
Eine Vorführung zeigt die Obergrenze. Im Betrieb entscheidet die Untergrenze — und über die erfährt man dort nichts.
Drei Fragen, die ich stelle
Erstens: Was passiert, wenn eine wichtige Angabe fehlt? Die gute Antwort ist eine Rückfrage oder ein Abbruch. Die schlechte ist ein vollständig wirkendes Ergebnis, in dem die fehlende Angabe stillschweigend ergänzt wurde.
Zweitens: Woran erkennt der Mensch davor, dass etwas unsicher war? Wenn ein Werkzeug sein sicheres und sein geratenes Ergebnis gleich darstellt, verlagert es die ganze Prüflast auf den Benutzer — und der prüft nach drei Wochen Gewöhnung nicht mehr.
Drittens: Wie sieht die Korrektur aus? Wenn ein Ergebnis falsch ist, wie kommt der Hinweis zurück ins System, und merkt es das beim nächsten Mal? Wenn die Antwort lautet, dass man es eben nochmal versucht, ist es kein Betriebsmittel, sondern ein Spielzeug.
Warum das selten gezeigt wird
Fehlverhalten vorzuführen ist unangenehm und schwer zu inszenieren. Es dauert länger, es sieht nicht gut aus, und man weiß vorher nicht genau, was passiert — das ist bei einer Vorführung genau das, was niemand will.
Dazu kommt ein zweiter Grund, der ehrlicher ist: Bei vielen Werkzeugen lautet die richtige Antwort auf die zweite Frage schlicht, dass man es nicht sieht. Das lässt sich schwer zeigen, ohne den Eindruck zu beschädigen.
Das teuerste Verhalten eines Werkzeugs ist nicht der Fehler. Es ist der Fehler, der aussieht wie ein Ergebnis.
Was das praktisch ändert
Seit ich diese drei Fragen stelle, verlaufen solche Gespräche anders. Manche Anbieter haben sofort eine Antwort, führen den unangenehmen Fall vor und erklären, wie ihr System damit umgeht. Bei anderen entsteht eine Pause, und die Antwort kommt später per Mail oder gar nicht.
Diese Pause ist die eigentliche Information. Sie sagt nichts über die Qualität der Technik, aber viel darüber, ob jemand das Produkt im echten Einsatz beobachtet hat oder nur gebaut hat.
Was ich daraus mitnehme
Ich glaube inzwischen, dass die Fähigkeit, das eigene Werkzeug scheitern zu lassen, ein besserer Hinweis auf Reife ist als jeder Vergleichswert. Wer den Fehlerfall zeigen kann, hat ihn untersucht. Wer ihn nicht zeigen kann, hat entweder nicht hingeschaut oder gehofft, dass niemand fragt.
Dasselbe gilt übrigens für die eigene Arbeit. Wenn ich etwas vorstelle, das ich gebaut habe, versuche ich zu sagen, wo es nicht trägt. Das kostet einen Moment Glanz und erspart hinterher ein unangenehmes Gespräch — und es ist der einzige Weg, wie aus einer Vorführung eine belastbare Entscheidung wird.