KI-Agenten dürfen handeln – mit Stopptaste

Microsoft baut in Copilot Studio eine Funktion ein, die für den professionellen Einsatz von KI-Agenten wichtig werden dürfte: Bestimmte Aktionen eines Agenten können künftig zwingend eine menschliche Freigabe benötigen. Die Freigabemechanismen dafür gibt es in Copilot Studio seit November 2025.

Damit adressiert Microsoft eine der entscheidenden Fragen beim Einsatz autonomer KI-Systeme: Was passiert, wenn die KI nicht nur Informationen liefert, sondern tatsächlich etwas tut?

Vom Antworten zum Handeln

Ein klassischer KI-Assistent beantwortet Fragen. Ein KI-Agent kann dagegen Werkzeuge verwenden und Aktionen ausführen:

• eine E-Mail versenden
• ein Ticket schließen
• Daten aktualisieren
• einen Workflow starten
• eine Zahlung verarbeiten

Damit steigt der mögliche Nutzen, gleichzeitig aber auch das Risiko. Ein falscher Textentwurf ist meist schnell korrigiert. Eine falsch versendete E-Mail oder eine automatisch ausgeführte Geschäftstransaktion möglicherweise nicht.

Eine Freigabestufe vor der Aktion

In Copilot Studio sollen die Personen, die einen Agenten einrichten, für einzelne Tools festlegen können: Vor dieser Aktion braucht der Agent die Zustimmung eines Menschen. Der Agent pausiert die geplante Aktion und zeigt an, was er vorhat. Die Nutzerin kann zustimmen, für die Sitzung zustimmen oder ablehnen.

Microsoft nennt ausdrücklich sensible Vorgänge wie das Versenden von E-Mails, das Schließen von Tickets oder die Bearbeitung von Zahlungen. Die Freigabe soll unabhängig davon gelten, welche Anweisungen der Agent sonst erhalten hat. Damit entsteht eine technische Sicherheitsbarriere und nicht nur eine Formulierung im Prompt.

Warum das für KMU wichtig ist

Viele Unternehmen befinden sich bei KI noch in Phase eins: Mitarbeitende verwenden ChatGPT oder Copilot zum Schreiben und Zusammenfassen. Die nächste Phase sieht anders aus. KI wird Systeme abfragen, Daten verarbeiten, Abläufe starten, andere Programme verwenden und Entscheidungen vorbereiten. Damit wird eine klare Trennung notwendig.

Die KI darf selbst entscheiden. Ein Agent fasst jeden Morgen neue Branchenmeldungen zusammen. Das Risiko ist überschaubar.

Die KI darf vorbereiten. Ein Agent erstellt einen Antwortentwurf auf eine Kundenanfrage, ein Mitarbeiter sendet ihn.

Die KI braucht eine Freigabe. Ein Agent möchte eine Nachricht an einen Kunden versenden.

Die KI übernimmt die Aufgabe nicht. Eine sensible Personalentscheidung oder eine rechtlich weitreichende Entscheidung.

Diese Unterscheidung wird für Unternehmen wesentlich wichtiger als die Frage nach dem besten Prompt.

Ein praktisches Beispiel

Ein Unternehmen automatisiert die Bearbeitung von Serviceanfragen. Der Agent erkennt eine neue Anfrage, liest die Kundeninformationen, klassifiziert das Problem, sucht eine mögliche Lösung, erstellt eine Antwort und schlägt das Schließen des Tickets vor.

Die ersten fünf Schritte können weitgehend automatisiert ablaufen. Vor dem sechsten erhält der Mitarbeiter eine Freigabeanfrage: Der Agent möchte das Ticket als erledigt schließen – genehmigen, für die Sitzung genehmigen oder ablehnen. Das verbindet Automatisierung mit Kontrolle.

Besonders relevant für Gemeinden und Organisationen

Für öffentliche oder stark regulierte Organisationen ist genau dieses Prinzip interessant. Dort soll KI nicht nur technisch funktionieren, es muss auch nachvollziehbar bleiben:

• wer etwas ausgelöst hat
• welche Daten verwendet wurden
• was die KI entscheiden durfte
• wann ein Mensch eingegriffen hat

Gerade bei Bürgerkommunikation, Förderungen, Personal, Finanzprozessen und öffentlicher Kommunikation sind solche Grenzen entscheidend.

KI-Governance muss nicht kompliziert sein

Viele kleinere Unternehmen hören „KI-Governance“ und denken an umfangreiche Richtlinien. Am Anfang genügt oft eine einfache Tabelle:

Damit wird Verantwortung verständlich.

Diese Fragen sind häufig wichtiger als die Frage, was der Agent alles können soll. Erst danach werden Tools, Berechtigungen und Workflows eingerichtet.

Fazit

KI-Agenten werden zunehmend vom Informationswerkzeug zum Handlungssystem. Damit wird menschliche Kontrolle nicht weniger wichtig, sondern präziser. Die geplanten Copilot-Studio-Freigaben zeigen, wohin sich Unternehmens-KI entwickelt: Routine automatisieren, kritische Entscheidungen kontrollieren. Genau diese Kombination entscheidet darüber, ob KI-Agenten im Unternehmensalltag vertrauenswürdig eingesetzt werden können.