Ratgeber · Automatisierung
Wie viel Selbstständigkeit darf ein KI-Agent haben und wo muss ein Mensch freigeben?
Von Kevin Grundmann · 21. November 2026 · 7 Minuten Lesezeit
So viel, wie ein Fehler kosten darf. Lesen und Vorbereiten kann ein Agent meist allein. Alles, was nach außen geht, Geld bewegt, Daten löscht oder Menschen betrifft, braucht die Freigabe durch einen Menschen. Mehr Freiheit bekommt der Agent in Stufen, wenn er sich über Wochen bewährt hat.
Zwei Fragen als Maßstab
Was ein Agent ist und woraus der Rahmen um ihn besteht, erklären die Beiträge Was ist ein KI-Agent? und Was ist Harness Engineering?. Hier geht es um die Entscheidung danach: Welche Handlung verträgt wie viel Freiheit?
Ich stelle dafür zu jeder einzelnen Handlung zwei Fragen. Wie schlimm wäre ein Fehler? Und: Lässt er sich rückgängig machen? Ein falscher Entwurf kostet eine Minute. Eine falsche Überweisung kostet Geld, Nerven und manchmal einen Kunden. Aus den beiden Antworten ergeben sich vier Stufen.
Vier Stufen der Freiheit
Neun Büro-Handlungen eingeordnet
Die Tabelle zeigt, wo ich typische Handlungen beim Start einordne. Ihr Betrieb kann an einzelnen Stellen anders entscheiden. Wichtig ist, dass jemand die Entscheidung bewusst trifft.
| Handlung | Stufe zu Beginn | Grund |
|---|---|---|
| Unterlagen lesen | allein | ändert nichts |
| Entwurf schreiben | allein | bleibt im Haus, wird ohnehin gelesen |
| Termin vorschlagen | handeln und berichten | leicht zu korrigieren |
| Mail an Kunden senden | Freigabe | nicht zurückzuholen |
| Rechnung buchen | Freigabe | wirkt in die Buchhaltung, Korrektur kostet Zeit |
| Zahlung auslösen | Freigabe, bei größeren Beträgen durch zwei Personen | Geld ist schwer zurückzuholen |
| Stammdaten ändern | Freigabe | ein Fehler wandert in alle Folgevorgänge |
| Dateien löschen | Freigabe oder nur Papierkorb | oft endgültig |
| Über Personen entscheiden | gar nicht | Bewerbung, Kündigung, Kredit: Das bleibt Sache eines Menschen |
Was eine gute Freigabe ausmacht
Eine Freigabe schützt nur, wenn sie jemand wirklich liest. Wer hundertmal am Tag „Ja” klicken soll, klickt irgendwann blind. Fachleute nennen das Freigabemüdigkeit, also das Abstumpfen durch zu viele Rückfragen.
Schlechte Freigabe
- Hundert Rückfragen am Tag
- Nur „Fortfahren?" ohne Inhalt
- Kein Beleg, kein Grund
- Kommt irgendwann, mitten in anderer Arbeit
Gute Freigabe
- Wenige Rückfragen, nur bei Handlungen mit Folgen
- Ein Satz: Was soll geschehen und warum?
- Der Beleg ist verlinkt, die Abweichung markiert
- Ein Klick zum Freigeben, einer zum Ablehnen
Die Sicherheitsorganisation OWASP beschreibt in ihrer Risikoliste für agentische Anwendungen eine verwandte Gefahr: Ein Agent begründet flüssig und selbstsicher, deshalb nicken Menschen auch Schädliches ab. Dagegen hilft der Beleg neben der Begründung.
Freigeben ist Arbeit
Wer freigibt, steht für das Ergebnis ein. Die Sorge vieler Beschäftigter, damit allein gelassen zu werden, ist berechtigt. Deshalb gehört zur Freigabe dreierlei: Zeit im Arbeitstag, das Fachwissen zum Beurteilen und das Recht, ohne Rechtfertigung Nein zu sagen. Eine Freigabe, die nebenbei zwischen zwei Telefonaten erledigt werden soll, verschiebt nur die Verantwortung auf die Person, die am wenigsten Zeit hat. Sprechen Sie darüber mit dem Team, bevor der Agent startet.
Vertrauen wächst in Stufen
Vom Beobachten zum eigenständigen Handeln
ein Mensch entscheidet jeden Fall der Agent handelt, ein Mensch kontrolliert
Markus leitet den Einkauf in einem Großhandel. Sein Agent bereitet Bestellungen vor, Markus bestätigt jede einzelne. Nach drei Monaten sieht er im Protokoll: Bei Nachbestellungen von Verbrauchsmaterial bei den Stammlieferanten hat er fast nie etwas geändert. Für genau diese Fälle lockert er die Regel. Liegt der Preis auf der hinterlegten Liste und bleibt die Summe unter einer Grenze, die er selbst festlegt, bestellt der Agent allein. Markus bekommt abends eine Übersicht. Neue Lieferanten, abweichende Preise und größere Mengen landen weiter bei ihm. Die Freiheit ist gewachsen, aber nur dort, wo sie sich bewährt hat.
Was Gesetze und Fachstellen dazu sagen
DSGVO, Artikel 22. Er gilt schon heute. Menschen haben das Recht, nicht einer Entscheidung unterworfen zu werden, die ausschließlich automatisiert fällt und für sie rechtliche Wirkung hat oder sie ähnlich erheblich beeinträchtigt. Ausnahmen gibt es etwa bei ausdrücklicher Einwilligung oder wenn die Entscheidung für einen Vertrag erforderlich ist. Auch dann kann die Person verlangen, dass ein Mensch eingreift. Wo die Grenze im Einzelfall liegt, ist eine Frage für Ihre Datenschutzberatung.
KI-Verordnung, Artikel 14 und 26. Sie betreffen nur Hochrisiko-KI-Systeme, zum Beispiel in der Personalauswahl. Artikel 14 verpflichtet die Anbieter, solche Systeme so zu bauen, dass Menschen sie wirksam beaufsichtigen, Ergebnisse verwerfen und das System anhalten können. Ausdrücklich genannt wird die Gefahr, sich zu sehr auf die Ausgabe zu verlassen. Nach Artikel 26 übertragen die Betreiber die Aufsicht an Personen mit der nötigen Kompetenz, Ausbildung und Befugnis. Sie müssen diese Personen außerdem unterstützen. Diese Pflichten gelten für die Einsatzfelder aus Anhang III ab dem 2. Dezember 2027 und für Produkte nach Anhang I ab dem 2. August 2028. Ein Agent, der Bestellungen vorbereitet, fällt in aller Regel nicht darunter. Als Maßstab taugt der Gedanke trotzdem.
OWASP und BSI. OWASP empfiehlt, Berechtigungen auf das Nötige zu beschränken und Handlungen mit großer Wirkung erst nach menschlicher Zustimmung auszuführen. Das Bundesamt für Sicherheit in der Informationstechnik rät in seinen Hinweisen zu KI-Agenten zu demselben: nur die Zugriffe, die die Aufgabe braucht, eine Bestätigung vor wichtigen Aktionen und ein regelmäßiger Blick ins Protokoll.
Typische Fehler
Alles freigeben lassen. Das wirkt am sichersten. Nach zwei Wochen liest niemand mehr, was er bestätigt. Beschränken Sie Freigaben auf Handlungen mit Folgen.
Freigaben nach den ersten guten Wochen ganz abschaffen. Wenn alles klappt, wirkt die Rückfrage wie eine Bremse. Lockern Sie einzelne Handlungen mit Obergrenze. Behalten Sie die Stichprobe.
Nach dem Werkzeug einordnen statt nach der Handlung. „Der Agent darf ins Mailprogramm” sagt wenig. Lesen, Entwerfen und Senden sind drei verschiedene Stufen.
Die Freigabe der Person geben, die gerade Zeit hat. Naheliegend, aber freigeben kann nur, wer den Vorgang fachlich beurteilen kann. Planen Sie dafür feste Zeit ein.
Freiheit erweitern, ohne ins Protokoll zu schauen. Das Bauchgefühl ist oft besser als die Zahlen. Zählen Sie vor jeder Lockerung nach, wie oft korrigiert wurde.
Nicht festlegen, was im Zweifel geschieht. Ist der Agent unsicher, sollte er anhalten und fragen. Das muss ihm jemand ausdrücklich vorgeben.
Was dieser Beitrag nicht leisten kann
Die Einordnung oben ist ein Startpunkt, kein Regelwerk für Ihren Betrieb. Wo die Betragsgrenze liegt und wer freigibt, hängt von Ihren Abläufen ab. Die rechtlichen Hinweise sind keine Rechtsberatung. Sobald ein Agent an Entscheidungen über Bewerber, Beschäftigte oder Kunden mitwirkt, sprechen Sie bitte mit einer Anwältin, einem Anwalt oder Ihrer Datenschutzberatung. Und: Für Abläufe, die immer gleich verlaufen, brauchen Sie diese Abwägung selten. Dort genügen oft feste Regeln, wie der Beitrag Klassisch oder mit KI automatisieren? zeigt.
Wenn Sie Zuständigkeiten und Freigaben für Ihren Betrieb festlegen möchten, finden Sie meinen Ansatz unter KI-Governance. In den AI Gambit Labs entwickle ich mit Scenaria und ContrAIl eigene Bausteine für Nachvollziehbarkeit und Freigaben.
Das Wichtigste in Kürze
- Zwei Fragen entscheiden: Wie schlimm wäre ein Fehler? Lässt er sich rückgängig machen?
- Lesen und Vorbereiten kann ein Agent meist allein. Senden, Zahlen, Ändern und Löschen brauchen eine Freigabe.
- Entscheidungen über Menschen trifft ein Mensch.
- Eine gute Freigabe ist selten, kurz begründet und belegt. Wer freigibt, braucht Zeit und das Recht, Nein zu sagen.
- Mehr Freiheit gibt es in Stufen, nur für bewährte Handlungen und immer mit Protokoll.