Muss wirklich jeder Agent eine schriftliche Freigabegrenze haben?

Sobald ein Agent ohne Rückfrage handeln kann, ja. Maßgeblich ist nicht seine Größe, sondern die Reichweite dessen, was er auslösen kann.

Reicht es, das mündlich im Team zu klären?

Nein. Eine mündliche Absprache ist im Zweifelsfall nicht belegbar. Genau diesen Zustand beschreibt die Studie als „wächst historisch".

Ist das nicht überzogen für ein kleines Tool?

Entscheidend ist nicht das Tool, sondern der Zugriff dahinter. Ein kleiner Agent mit weitem Zugang ist das größere Risiko als ein großer mit engem.

Wo gehört das organisatorisch hin?

In die interne KI-Richtlinie und in das Verzeichnis der eingesetzten KI-Anwendungen. Beides sind Bausteine, die der AI Act für viele Unternehmen nahelegt.

Was, wenn wir gar nicht wissen, welche Agenten bei uns laufen?

Dann ist Schritt 1 Ihr Anfang. Ohne diese Übersicht lässt sich keine Freigabe verlässlich festlegen.

Freigaben für KI-Agenten: Sofortmaßnahmen und Kontrollen

Ein KI-Agent bekommt Zugriff, funktioniert erstmal, und läuft dann einfach weiter. Niemand hat vorher festgelegt, was er selbstständig entscheiden darf und wo ein Mensch zustimmen muss. Eine aktuelle Untersuchung zu gescheiterten Agentic-AI-Projekten bei Großbanken zeigt, wie verbreitet das ist. Klarheit über die Freigaben war dort der schwächste gemessene Wert überhaupt. 2,16 von 10. Kein einziges gescheitertes Projekt hatte die Frage vorher geklärt.

Das ist selten böser Wille. Es entsteht, weil die Frage nie gestellt wird. Der Agent geht produktiv, weil er funktioniert. Seine Freigabegrenze wächst dann historisch. Entschieden wird sie nie. Das Problem zeigt sich meist erst, wenn es zu spät ist. Ein Task bekommt mehr Rechte als vorgesehen. Oder ein Agent läuft munter weiter, obwohl sich seine Grundlage längst geändert hat.

Diese Seite beschreibt beides. Was zu tun ist, wenn bereits Agenten ohne klare Freigabe laufen. Und welche Kontrollen verhindern, dass der nächste Agent überhaupt in diese Lage kommt.

Teil 1: Wenn bereits Agenten ohne klare Freigabe laufen

Schritt 1. Laufende Agenten sichtbar machen

Bevor Sie Grenzen ziehen, brauchen Sie die Liste. Erfassen Sie jeden aktiven Agenten und jeden geplanten Task. Notieren Sie, was er tut, wie oft er läuft und wer ihn eingerichtet hat. Was auf keiner Liste steht, lässt sich auch nicht freigeben.

Selbstprüfung: Gibt es eine vollständige Übersicht aller aktiven Agenten und geplanten Tasks?

Schritt 2. Tatsächliche Rechte je Agent bestimmen

Entscheidend ist nicht die Aufgabenbeschreibung. Entscheidend ist, worauf der Agent tatsächlich zugreifen und was er auslösen kann. Prüfen Sie je Agent, welche Aktionen er ohne Rückfrage ausführt und welche Daten und Systeme dabei erreichbar sind.

Selbstprüfung: Wissen wir bei jedem Agenten, welche Aktionen er ohne menschliche Zustimmung ausführen kann?

Schritt 3. Freigabegrenzen nachträglich schriftlich festlegen

Für jeden laufenden Agenten wird festgehalten, was er selbstständig entscheiden darf und ab wann ein Mensch zustimmen muss. Schriftlich, nicht mündlich vereinbart. Eine mündliche Absprache ist am Tag darauf schon nicht mehr belegbar.

Selbstprüfung: Steht für jeden laufenden Agenten schriftlich, wo seine Selbstständigkeit endet?

Schritt 4. Was unklar ist, pausieren statt laufen lassen

Solange sich die Grenze eines Agenten nicht benennen lässt, ist der Betrieb das Risiko, nicht die Pause. Setzen Sie ihn aus, bis Schritt 3 für ihn erledigt ist. Das ist unbequem. Aber es ist die einzige Maßnahme, die sofort wirkt.

Selbstprüfung: Läuft aktuell ein Agent, dessen Grenzen niemand im Haus benennen kann?

Teil 2: Kontrollen, bevor der nächste Agent live geht

Schritt 5. Freigabegrenzen vor der Aktivierung definieren

Die Grenze gehört in die Abnahme, nicht in die Nachbetrachtung. Bevor ein Agent produktiv geht, steht schriftlich, was er allein darf und wo eine menschliche Freigabe nötig ist. So ist die Antwort da, bevor der erste Zweifelsfall auftritt.

Selbstprüfung: Ist die Freigabegrenze Teil der Abnahme, bevor der Agent produktiv geht?

Schritt 6. Eskalationsweg benennen

Ein Agent stößt irgendwann an seine Grenze. Dann muss klar sein, wer entscheidet. Benennen Sie eine Person oder Rolle, nicht „das Team". Sonst trifft die Entscheidung, wer zufällig zusieht. Oder niemand.

Selbstprüfung: Ist benannt, an wen eskaliert wird, wenn der Agent an seine Grenze stößt?

Schritt 7. Freigaben zyklisch gegen die Realität prüfen

Daten, Systeme und Zuständigkeiten ändern sich. Eine Freigabe, die vor sechs Monaten passte, passt heute vielleicht nicht mehr. Legen Sie einen festen Termin fest, an dem Sie die Freigaben jedes Agenten gegen den aktuellen Stand prüfen.

Selbstprüfung: Gibt es einen festen Termin, an dem die Freigaben überprüft werden?

Schritt 8. Entscheidungsrechte in Richtlinie und Inventar verankern

Die Regel wirkt nur an der richtigen Stelle. Also dort, wo auch die übrigen KI-Vorgaben stehen. Nehmen Sie die Freigabelogik in die interne KI-Richtlinie auf und führen Sie sie im Verzeichnis der eingesetzten KI-Anwendungen mit. Beides sind Bausteine, die der AI Act für viele Unternehmen nahelegt. Näheres in unserer KI-Compliance-Checkliste.

Selbstprüfung: Steht die Regel dort, wo auch andere KI-Vorgaben stehen, und kennt sie das Team?

So gehen Sie vor

Laufen bereits Agenten, beginnen Sie mit Teil 1 in der genannten Reihenfolge. Schritt 1 ist die Grundlage für alles Weitere. Steht der nächste Agent erst noch an, sind Schritt 5 und Schritt 6 der richtige Einstieg. Beide sind an einem Vormittag umsetzbar und verhindern den größten Teil des Risikos, bevor es entsteht.

Verwandte Themen: Geplante KI-Tasks kontrollieren und API-Keys in KI-Chats.

Binarsolve erbringt keine Rechtsberatung im Sinne des RDG. Unsere Einordnungen sind eine betriebliche Arbeitsgrundlage und ersetzen keine juristische Einzelfallprüfung.