China regelt zuerst die Agenten
Am 15. Juli sind in China Vorgaben in Kraft getreten, die KI-Agenten als eigene Kategorie behandeln — mit abgestuften Entscheidungsbefugnissen und Meldepflichten für sensible Bereiche. Man muss die chinesische Regulierung nicht mögen, um zu erkennen, dass sie eine Frage zuerst stellt, die anderswo noch offen ist.
Was dort geregelt wird
Der Kern der Regelung ist eine Abstufung: Agenten werden danach eingeordnet, wie weit sie selbstständig entscheiden dürfen. Für Anwendungen in besonders sensiblen Bereichen kommt eine Anmeldepflicht hinzu. Damit ist erstmals nicht das Modell der Gegenstand der Regulierung, sondern das handelnde System.
Das ist ein bemerkenswerter Perspektivwechsel. Die meisten bisherigen Regelwerke, auch das europäische, setzen bei der Anwendung an — wofür wird KI eingesetzt, mit welchem Risiko für Betroffene. Die Frage, wie viel ein System ohne Rückfrage tun darf, taucht darin nur mittelbar auf.
Warum diese Frage kommen musste
Ein Modell, das Antworten gibt, ist ein Werkzeug. Ein System, das Aufträge ausführt, Bestellungen auslöst, Nachrichten verschickt oder Einträge ändert, ist etwas anderes. Der Unterschied ist nicht die Technik, sondern die Reichweite: Das eine schlägt vor, das andere handelt.
Solange Agenten Spielerei waren, konnte man diese Unterscheidung offen lassen. Seit Systeme stundenlang selbstständig arbeiten, ist die Frage, wie weit ihre Befugnis reicht, keine theoretische mehr. Sie ist die zentrale Frage.
Ein Modell antwortet. Ein Agent handelt. Regulierung, die nur das Antworten betrachtet, greift bei dem, was tatsächlich Schaden anrichten kann, ins Leere.
Was das mit Europa zu tun hat
Der europäische Ansatz ist ein anderer, und er hat gute Gründe: Er fragt nach dem Risiko für Menschen, nicht nach der technischen Bauart. Das ist robuster gegenüber Moden, weil es nicht bei jeder neuen Architektur nachjustiert werden muss.
Trotzdem bleibt eine Lücke. Zwei Systeme können dasselbe Risiko für Betroffene haben und sich fundamental darin unterscheiden, ob ein Mensch jede Entscheidung freigibt oder erst hinterher davon erfährt. Für die Praxis ist das der wichtigste Unterschied überhaupt, und er ist in der Einordnung nach Anwendungsgebieten nur schwach abgebildet.
Was Unternehmen davon haben, ohne in China tätig zu sein
Man kann diese Regelung als Vorlage lesen, ohne ihr politisch zuzustimmen. Die Abstufung der Entscheidungsbefugnis ist nämlich genau das, was jedes Unternehmen für sich ohnehin klären muss, wenn es Agenten einsetzt.
Praktisch heißt das: drei Stufen, mehr braucht es selten. Was darf ein System ohne Rückfrage tun. Was darf es vorbereiten, aber nicht auslösen. Und was darf es gar nicht anfassen. Wer diese drei Listen hat, hat den Kern jeder Agenten-Governance beisammen — unabhängig davon, welche Behörde irgendwann danach fragt.
Die nützlichste Frage aus dieser Regelung ist keine Rechtsfrage. Sie lautet: Was darf unser System tun, ohne vorher zu fragen?
Was das für Unternehmen bedeutet
Ich rechne damit, dass die Frage nach der Entscheidungsbefugnis in den nächsten zwei Jahren auch in europäische Regelwerke wandert, in welcher Form auch immer. Wer die drei Stufen für seine eigenen Anwendungen jetzt festlegt, arbeitet also nicht auf Vorrat, sondern nimmt etwas vorweg.
Der eigentliche Nutzen liegt aber davor. Diese Festlegung zwingt zu einem Gespräch, das in vielen Häusern noch nicht geführt wurde: Wer entscheidet eigentlich, dass ein System künftig ohne Rückfrage handeln darf? In der Praxis entscheidet das heute oft die Person, die den Zugang einrichtet. Das ist keine böse Absicht, sondern schlicht die Folge davon, dass niemand die Frage gestellt hat.