Zum Inhalt springen

Ratgeber · Automatisierung

Wie viel Selbstständigkeit darf ein KI-Agent haben und wo muss ein Mensch freigeben?

Von Kevin Grundmann · 21. November 2026 · 7 Minuten Lesezeit

So viel, wie ein Fehler kosten darf. Lesen und Vorbereiten kann ein Agent meist allein. Alles, was nach außen geht, Geld bewegt, Daten löscht oder Menschen betrifft, braucht die Freigabe durch einen Menschen. Mehr Freiheit bekommt der Agent in Stufen, wenn er sich über Wochen bewährt hat.

Zwei Fragen als Maßstab

Was ein Agent ist und woraus der Rahmen um ihn besteht, erklären die Beiträge Was ist ein KI-Agent? und Was ist Harness Engineering?. Hier geht es um die Entscheidung danach: Welche Handlung verträgt wie viel Freiheit?

Ich stelle dafür zu jeder einzelnen Handlung zwei Fragen. Wie schlimm wäre ein Fehler? Und: Lässt er sich rückgängig machen? Ein falscher Entwurf kostet eine Minute. Eine falsche Überweisung kostet Geld, Nerven und manchmal einen Kunden. Aus den beiden Antworten ergeben sich vier Stufen.

Vier Stufen der Freiheit

Allein handelnEin Fehler ist harmlos und leicht zu beheben. Nichts verlässt das Haus.
Handeln und berichtenEin Fehler ist ärgerlich, aber umkehrbar. Der Agent meldet, was er getan hat.
Vorschlagen und wartenEin Fehler ist teuer oder nicht umkehrbar. Der Agent bereitet vor, ein Mensch gibt frei.
Gar nichtEs geht um Menschen und ihre Rechte. Die Entscheidung trifft ein Mensch selbst.
Die Stufe hängt an der einzelnen Handlung. Derselbe Agent kann lesen dürfen und beim Senden warten müssen.

Neun Büro-Handlungen eingeordnet

Die Tabelle zeigt, wo ich typische Handlungen beim Start einordne. Ihr Betrieb kann an einzelnen Stellen anders entscheiden. Wichtig ist, dass jemand die Entscheidung bewusst trifft.

HandlungStufe zu BeginnGrund
Unterlagen lesenalleinändert nichts
Entwurf schreibenalleinbleibt im Haus, wird ohnehin gelesen
Termin vorschlagenhandeln und berichtenleicht zu korrigieren
Mail an Kunden sendenFreigabenicht zurückzuholen
Rechnung buchenFreigabewirkt in die Buchhaltung, Korrektur kostet Zeit
Zahlung auslösenFreigabe, bei größeren Beträgen durch zwei PersonenGeld ist schwer zurückzuholen
Stammdaten ändernFreigabeein Fehler wandert in alle Folgevorgänge
Dateien löschenFreigabe oder nur Papierkorboft endgültig
Über Personen entscheidengar nichtBewerbung, Kündigung, Kredit: Das bleibt Sache eines Menschen

Was eine gute Freigabe ausmacht

Eine Freigabe schützt nur, wenn sie jemand wirklich liest. Wer hundertmal am Tag „Ja” klicken soll, klickt irgendwann blind. Fachleute nennen das Freigabemüdigkeit, also das Abstumpfen durch zu viele Rückfragen.

Schlechte Freigabe

  • Hundert Rückfragen am Tag
  • Nur „Fortfahren?" ohne Inhalt
  • Kein Beleg, kein Grund
  • Kommt irgendwann, mitten in anderer Arbeit

Gute Freigabe

  • Wenige Rückfragen, nur bei Handlungen mit Folgen
  • Ein Satz: Was soll geschehen und warum?
  • Der Beleg ist verlinkt, die Abweichung markiert
  • Ein Klick zum Freigeben, einer zum Ablehnen
Je weniger Freigaben nötig sind, desto ernster wird jede einzelne genommen.

Die Sicherheitsorganisation OWASP beschreibt in ihrer Risikoliste für agentische Anwendungen eine verwandte Gefahr: Ein Agent begründet flüssig und selbstsicher, deshalb nicken Menschen auch Schädliches ab. Dagegen hilft der Beleg neben der Begründung.

Freigeben ist Arbeit

Wer freigibt, steht für das Ergebnis ein. Die Sorge vieler Beschäftigter, damit allein gelassen zu werden, ist berechtigt. Deshalb gehört zur Freigabe dreierlei: Zeit im Arbeitstag, das Fachwissen zum Beurteilen und das Recht, ohne Rechtfertigung Nein zu sagen. Eine Freigabe, die nebenbei zwischen zwei Telefonaten erledigt werden soll, verschiebt nur die Verantwortung auf die Person, die am wenigsten Zeit hat. Sprechen Sie darüber mit dem Team, bevor der Agent startet.

Vertrauen wächst in Stufen

Vom Beobachten zum eigenständigen Handeln

BeobachtenDer Agent liest mit, ein Mensch arbeitet wie bisher
Vorschlagen lassenJeder Vorschlag wird freigegeben
Mit Bericht handelnDer Agent handelt, ein Mensch liest den Bericht
In engen Grenzen alleinmit Obergrenze, Stichprobe und Protokoll

ein Mensch entscheidet jeden Fall der Agent handelt, ein Mensch kontrolliert

Jede Stufe dauert einige Wochen. Weiter geht es nur für die Handlungen, bei denen kaum Korrekturen nötig waren.

Markus leitet den Einkauf in einem Großhandel. Sein Agent bereitet Bestellungen vor, Markus bestätigt jede einzelne. Nach drei Monaten sieht er im Protokoll: Bei Nachbestellungen von Verbrauchsmaterial bei den Stammlieferanten hat er fast nie etwas geändert. Für genau diese Fälle lockert er die Regel. Liegt der Preis auf der hinterlegten Liste und bleibt die Summe unter einer Grenze, die er selbst festlegt, bestellt der Agent allein. Markus bekommt abends eine Übersicht. Neue Lieferanten, abweichende Preise und größere Mengen landen weiter bei ihm. Die Freiheit ist gewachsen, aber nur dort, wo sie sich bewährt hat.

MerksatzEin Agent bekommt so viel Freiheit, wie ein Fehler kosten darf.

Was Gesetze und Fachstellen dazu sagen

DSGVO, Artikel 22. Er gilt schon heute. Menschen haben das Recht, nicht einer Entscheidung unterworfen zu werden, die ausschließlich automatisiert fällt und für sie rechtliche Wirkung hat oder sie ähnlich erheblich beeinträchtigt. Ausnahmen gibt es etwa bei ausdrücklicher Einwilligung oder wenn die Entscheidung für einen Vertrag erforderlich ist. Auch dann kann die Person verlangen, dass ein Mensch eingreift. Wo die Grenze im Einzelfall liegt, ist eine Frage für Ihre Datenschutzberatung.

KI-Verordnung, Artikel 14 und 26. Sie betreffen nur Hochrisiko-KI-Systeme, zum Beispiel in der Personalauswahl. Artikel 14 verpflichtet die Anbieter, solche Systeme so zu bauen, dass Menschen sie wirksam beaufsichtigen, Ergebnisse verwerfen und das System anhalten können. Ausdrücklich genannt wird die Gefahr, sich zu sehr auf die Ausgabe zu verlassen. Nach Artikel 26 übertragen die Betreiber die Aufsicht an Personen mit der nötigen Kompetenz, Ausbildung und Befugnis. Sie müssen diese Personen außerdem unterstützen. Diese Pflichten gelten für die Einsatzfelder aus Anhang III ab dem 2. Dezember 2027 und für Produkte nach Anhang I ab dem 2. August 2028. Ein Agent, der Bestellungen vorbereitet, fällt in aller Regel nicht darunter. Als Maßstab taugt der Gedanke trotzdem.

OWASP und BSI. OWASP empfiehlt, Berechtigungen auf das Nötige zu beschränken und Handlungen mit großer Wirkung erst nach menschlicher Zustimmung auszuführen. Das Bundesamt für Sicherheit in der Informationstechnik rät in seinen Hinweisen zu KI-Agenten zu demselben: nur die Zugriffe, die die Aufgabe braucht, eine Bestätigung vor wichtigen Aktionen und ein regelmäßiger Blick ins Protokoll.

Typische Fehler

Alles freigeben lassen. Das wirkt am sichersten. Nach zwei Wochen liest niemand mehr, was er bestätigt. Beschränken Sie Freigaben auf Handlungen mit Folgen.

Freigaben nach den ersten guten Wochen ganz abschaffen. Wenn alles klappt, wirkt die Rückfrage wie eine Bremse. Lockern Sie einzelne Handlungen mit Obergrenze. Behalten Sie die Stichprobe.

Nach dem Werkzeug einordnen statt nach der Handlung. „Der Agent darf ins Mailprogramm” sagt wenig. Lesen, Entwerfen und Senden sind drei verschiedene Stufen.

Die Freigabe der Person geben, die gerade Zeit hat. Naheliegend, aber freigeben kann nur, wer den Vorgang fachlich beurteilen kann. Planen Sie dafür feste Zeit ein.

Freiheit erweitern, ohne ins Protokoll zu schauen. Das Bauchgefühl ist oft besser als die Zahlen. Zählen Sie vor jeder Lockerung nach, wie oft korrigiert wurde.

Nicht festlegen, was im Zweifel geschieht. Ist der Agent unsicher, sollte er anhalten und fragen. Das muss ihm jemand ausdrücklich vorgeben.

Was dieser Beitrag nicht leisten kann

Die Einordnung oben ist ein Startpunkt, kein Regelwerk für Ihren Betrieb. Wo die Betragsgrenze liegt und wer freigibt, hängt von Ihren Abläufen ab. Die rechtlichen Hinweise sind keine Rechtsberatung. Sobald ein Agent an Entscheidungen über Bewerber, Beschäftigte oder Kunden mitwirkt, sprechen Sie bitte mit einer Anwältin, einem Anwalt oder Ihrer Datenschutzberatung. Und: Für Abläufe, die immer gleich verlaufen, brauchen Sie diese Abwägung selten. Dort genügen oft feste Regeln, wie der Beitrag Klassisch oder mit KI automatisieren? zeigt.

Wenn Sie Zuständigkeiten und Freigaben für Ihren Betrieb festlegen möchten, finden Sie meinen Ansatz unter KI-Governance. In den AI Gambit Labs entwickle ich mit Scenaria und ContrAIl eigene Bausteine für Nachvollziehbarkeit und Freigaben.

Das Wichtigste in Kürze

  • Zwei Fragen entscheiden: Wie schlimm wäre ein Fehler? Lässt er sich rückgängig machen?
  • Lesen und Vorbereiten kann ein Agent meist allein. Senden, Zahlen, Ändern und Löschen brauchen eine Freigabe.
  • Entscheidungen über Menschen trifft ein Mensch.
  • Eine gute Freigabe ist selten, kurz begründet und belegt. Wer freigibt, braucht Zeit und das Recht, Nein zu sagen.
  • Mehr Freiheit gibt es in Stufen, nur für bewährte Handlungen und immer mit Protokoll.

Kurz gefragt

Ihre Frage ist nicht dabei? Schreiben Sie mir.

Darf ein KI-Agent selbstständig Mails an Kunden senden?

Technisch ja, empfehlen würde ich es nur für eng umrissene Fälle wie eine Eingangsbestätigung mit festem Text. Sobald der Agent frei formuliert, etwas zusagt oder ablehnt, sollte ein Mensch den Entwurf vor dem Versand lesen. Eine gesendete Mail lässt sich nicht zurückholen.

Was bedeutet Human in the Loop?

Wörtlich: ein Mensch in der Schleife. Gemeint ist, dass der Agent an festgelegten Stellen anhält und erst weitermacht, wenn ein Mensch zugestimmt hat.

Schreibt die KI-Verordnung eine menschliche Freigabe für jeden Agenten vor?

Nein. Die Vorgaben zur menschlichen Aufsicht in Artikel 14 und 26 betreffen Hochrisiko-KI-Systeme und gelten für die Einsatzfelder aus Anhang III erst ab dem 2. Dezember 2027. Unabhängig davon gilt Artikel 22 der DSGVO schon heute, sobald eine Entscheidung über Personen ausschließlich automatisiert fällt.

Wann kann ich eine Freigabe wieder abschaffen?

Wenn der Agent über mehrere Wochen kaum korrigiert werden musste, ein Fehler wenig kostet und sich rückgängig machen lässt. Lockern Sie dann nur diese eine Art von Handlung. Die Stichprobe und das Protokoll bleiben.

Weiterlesen

Lassen Sie uns 30 Minuten sprechen.

Kostenlos und unverbindlich. Sie schildern, wo es hakt, ich sage Ihnen ehrlich, ob und wie KI dabei hilft.

Lieber kurz per WhatsApp schreiben

Einen Teil meiner Arbeit erledige ich mit KI-Unterstützung: lokal mit Gemma 4 und Qwen 3, für die Konzeption mit Claude von Anthropic. Claude dient nur der Konzeption. Es erhält keine Informationen zu Unternehmen und keine sensiblen Daten. Jede Antwort prüfe ich selbst.

Ohne diese Zustimmung bearbeite ich Ihre Nachricht nicht. Sie können die Zustimmung jederzeit widerrufen.