6 Min. LesezeitSecurity

Wenn KI eigenständig handelt: Warum AI Agents neue Governance brauchen

julian-kusenberg-contact
Julian KusenbergSenior Consultant Digital Workplace Advisory | Microsoft MVP
The-Agentic-Era-AdobeStock_1494586346-Swo-SITECORE-blog-hero

AI Agents verändern die Governance-Frage grundlegend. Entscheidend ist nicht mehr nur, wer Informationen sehen, sondern wer oder was im Namen des Unternehmens handeln darf. Für Unternehmen in Deutschland, Österreich und der Schweiz wird damit aus klassischer Data Governance ein operatives Sicherheits- und Kontrollthema.

Wenn KI eigenständig handelt: AI Agents verändern Governance

Viele Unternehmen beschäftigen sich aktuell mit Microsoft 365 Copilot, Copilot Studio und AI Agents. Häufig beginnt die Diskussion technisch: Welche Lizenz wird benötigt? Welche Datenquellen können angebunden werden? Welche Produktivitätsgewinne sind realistisch? Und natürlich: Wann kann es losgehen?

Aus Governance-Sicht ist eine andere Frage entscheidend:

Was passiert, wenn KI nicht nur Informationen findet, sondern im Namen von Benutzern, Fachbereichen oder Prozessen handelt?

Copilot hat in vielen Organisationen sichtbar gemacht, wie die Datenrealität wirklich aussieht. Alte SharePoint Sites. Zu weitreichend erteilte Berechtigungen. Externe Freigaben von Dateien und Ordnern an Personen außerhalb des Unternehmens, die längst in Vergessenheit geraten sind. Teams, deren Owner längst gewechselt haben. Sensible Inhalte ohne Klassifizierung. Dokumente, die nie bereinigt wurden, weil sie ohne klare Ablagestruktur irgendwo in SharePoint gespeichert wurden. KI erfindet diese Risiken nicht. Sie macht sie schneller sichtbar.

Mit AI Agents kommt eine weitere Ebene dazu. Agents finden Informationen nicht nur. Sie können Aufgaben vorbereiten, Inhalte erstellen, Dokumente verändern, E-Mails formulieren, Prozesse anstoßen oder über Schnittstellen mit Geschäftsanwendungen interagieren. Damit verschiebt sich die Governance-Frage. Früher lautete sie oft: Wer darf diese Information sehen? Mit AI Agents gesellt sich eine weitere hinzu: Wer oder was darf mit dieser Information handeln? Und genau an diesem Punkt wird aus Data Governance ein operatives Kontrollthema.

AI Governance beginnt bei Kontrolle, Transparenz und Verantwortung

In der DACH-Region werden KI-Themen schnell mit Datenschutz, Regulierung, Betriebsrat, Compliance und Informationssicherheit verbunden. Das ist nachvollziehbar, greift aber zu kurz, wenn die technische und organisatorische Grundlage fehlt. Die zentrale Frage lautet nicht nur, welche Anforderungen im Einzelfall gelten, sondern zunächst:

Kann die Organisation nachvollziehen, welche KI-Systeme und Agents auf welche Daten zugreifen, welche Aktionen sie ausführen können und wer dafür verantwortlich ist?

Wenn diese Frage nicht beantwortet werden kann, fehlt die Grundlage für Kontrolle. Dann wird AI Governance schnell zur Richtlinie auf dem Papier, während die eigentlichen Risiken in SharePoint, Teams, OneDrive, Postfächern, Berechtigungen, externen Freigaben und angebundenen Fachanwendungen liegen.

Für Unternehmen bedeutet das: Governance muss enger an der operativen Realität ausgerichtet werden. Es geht um Transparenz, Datenklassifizierung, Berechtigungen, Verantwortlichkeiten, Monitoring und Nachvollziehbarkeit. Erst wenn diese Bausteine zusammenkommen, lassen sich Copilot und AI Agents kontrolliert skalieren.

Daten, Berechtigungen und Microsoft 365 Umgebungen bestimmen das Risiko

In vielen Projekten zeigt sich ein ähnliches Muster. Das Risiko beginnt selten mit der KI selbst. Es beginnt mit der Umgebung, in der sie eingesetzt wird. Ein Agent, der auf sauber klassifizierte Daten zugreift, mit klar begrenzten Berechtigungen arbeitet, dokumentierte Owner hat und durch Audit, DLP und Monitoring begleitet wird, hat ein anderes Risikoprofil als ein Agent, der auf eine historisch gewachsene Microsoft 365 Umgebung losgelassen wird. Und genau da liegt der Unterschied.

In der Theorie sieht die Welt geordnet aus. Jede SharePoint Site hat einen Owner. Jede Datei ist klassifiziert. Externe Freigaben sind geprüft. Berechtigungen folgen Need-to-Know-Prinzip. DLP Regeln wurden getestet. Audit Logs sind verfügbar. Fachbereiche wissen, welche Daten sie verantworten. Security-Verantwortliche wissen, welche KI-Tools genutzt im Unternehmen werden.

In der Realität sieht es oft anders aus. Da gibt es Projektteams aus 2019, in denen noch Gäste aktiv sind. Alte Angebote mit vertraulichen Preisinformationen sind in Bereichen gespeichert, auf die viel zu viele Personen Zugriff haben. HR-, Finance- oder Legal-Dokumente wurden irgendwann in einem allgemeinen Team geteilt. Dahinter steht in der Regel keine böse Absicht. Es ist einfach passiert. Historisch gewachsen. Liegen geblieben.

Solange ein Mensch zufällig darüber stolpert, ist das zwar unangenehm, das Risiko bleibt aber vergleichsweise gering. Wenn KI diese Informationen in Sekunden finden, kombinieren und in neue Kontexte bringen kann, wird es ernst. Wenn ein Agent auf dieser Basis auch noch handeln kann, entsteht ein operatives Risiko.

Von Oversharing zu Overacting: Wenn AI Agents handeln können

Bei Copilot sprechen viele Unternehmen von Oversharing. Also über die Frage, ob Inhalte für zu viele Personen zugänglich sind und dadurch in Antworten auftauchen können, die fachlich vielleicht nicht vorgesehen waren. Bei AI Agents geht es nicht mehr nur darum, was sichtbar wird, sondern auch darum, was ausgeführt werden kann. Nennen wir diese neue Ebene ruhig: Overacting.

Gemeint ist nicht dramatisches Verhalten oder übertriebenes Bühnenschauspiel, sondern die Fähigkeit von Agents, mehr tun zu können, als die Organisation eigentlich kontrollieren kann. Ein Agent mit Zugriff auf ein Postfach kann E-Mails vorbereiten. Ein Agent mit Zugriff auf SharePoint kann Dokumente erstellen oder verändern. Ein Agent mit Zugriff auf ein CRM kann Kundeninformationen lesen oder aktualisieren. Ein Agent, der mit einem Workflow verbunden ist, kann Prozesse auslösen. Ein Agent, der Anweisungen aus Dokumenten, E-Mails oder Websites verarbeitet, kann auch mit Inhalten konfrontiert werden, die neben Informationen auch versteckte oder manipulative Anweisungen enthalten.

Das bedeutet nicht, dass jeder Agent automatisch gefährlich ist. Aber es zeigt: Die klassische Sicht auf Benutzer, Gruppen und Anwendungen greift nicht mehr weit genug. Denn plötzlich gibt es Akteure im Tenant, die nicht in den klassischen Joiner-, Mover-, Leaver-Prozessen auftauchen. Sie wechseln keine Abteilung. Sie kündigen nicht. Man findet sie auch nicht im Organigramm. Und trotzdem können sie Zugriff erhalten, Entscheidungen vorbereiten oder Aktionen ausführen.

Drei Governance-Fragen für Copilot und AI Agents

Unternehmen in der DACH-Region müssen weder in Panik geraten, noch eine 80-seitige AI Governance Policy aufsetzen. Was Sie benötigen, ist ein pragmatischer Einstieg. Drei Fragen helfen dabei:

1. Welche KI-Systeme und Agents sind im Einsatz?

Viele Unternehmen diskutieren Governance für KI, ohne genau zu wissen, welche KI bereits genutzt wird. Microsoft 365 Copilot, Copilot Studio, Custom Agents, externe KI-Tools, Browser-Erweiterungen, SaaS-Funktionen mit eingebauter KI, Fachbereichslösungen mit eigenen Assistenten, Test-Accounts, Schattenprojekte. Kleine Automatisierungen, die irgendwann produktiv wurden. Was nicht sichtbar ist, kann nicht gesteuert werden.

Den ersten Schritt bildet deshalb nicht die perfekte Policy, sondern Transparenz. Welche KI-Tools werden genutzt? Welche Datenquellen sind angebunden? Welche Benutzergruppen arbeiten damit? Welche Agents existieren bereits? Wer ist Owner? Wer darf neue Agents erstellen? Welche externen Dienste werden verwendet? Ohne diese Sicht bleibt Governance eine PowerPoint-Übung.

2. Sind Daten und Berechtigungen überhaupt AI ready?

Der Begriff wirkt zunächst abstrakt, ist aber eigentlich sehr bodenständig. AI Readiness bedeutet nicht, dass jedes Dokument perfekt gepflegt sein muss. Vielmehr geht es darum, dass die größten Risiken bekannt und adressierbar sind.

Welche SharePoint Sites sind zu weitreichend freigegeben? Wo gibt es Anyone-Links? Welche Teams haben keine aktiven Owner mehr? Welche sensiblen Daten liegen ohne Label in allgemein zugänglichen Bereichen? Welche externen Gäste haben noch Zugriff? Welche Daten sollten für Copilot oder Agents nur eingeschränkt nutzbar sein? Welche Inhalte müssen klassifiziert, geschützt oder aus bestimmten KI-Szenarien ausgeschlossen werden?

Hier wird unweigerlich Microsoft Purview relevant. Nicht als einzelnes Tool, das magisch alles löst, sondern als Kontrollinstanz: Sensitivity Labels helfen, Daten einzuordnen und Schutzentscheidungen an Inhalte zu binden. DLP hilft, unerwünschte Datenbewegungen zu erkennen oder zu stoppen. Audit macht Aktivitäten nachvollziehbar. Insider Risk Management kann auffällige Muster sichtbar machen. Retention und Records Management helfen, Altlasten kontrollierter zu behandeln. DSPM for AI kann dabei unterstützen, Risiken in der Datenlandschaft gezielter sichtbar zu machen. Oder einfacher gesagt:

Bevor ein Agent mit Daten arbeitet, sollte das Unternehmen wissen, welche Daten das sind, wie sensibel sie sind und ob ein Zugriff überhaupt gewollt ist.

3. Wer trifft welche Entscheidungen?

Das ist oft der unangenehmste Teil. Nicht, weil die Frage kompliziert zu verstehen ist. Sondern weil sie selten sauber beantwortet wurde. IT betreibt die Plattform. Security soll Risiken bewerten. Datenschutz muss eingebunden werden. Compliance verlangt Nachweise. Legal prüft Verträge. Einkauf beschafft Tools. Fachbereiche benötigen Geschwindigkeit. Management erwartet Produktivität. Und irgendwo dazwischen entstehen Agents.

Wenn niemand klar verantwortlich ist, entsteht Governance durch Zufall. Für den Einsatz von AI Agents wird deshalb ein einfaches Operating Model benötigt. Dieses muss nicht perfekt sein, aber eindeutig genug, um basierend darauf konkrete Entscheidungen treffen zu können:

  • Wer darf neue Agents erstellen?
  • Wer genehmigt Datenquellen?
  • Wer bewertet Risiken?
  • Wer prüft, ob ein Agent nur lesen oder auch schreiben darf?
  • Wer kontrolliert externe Verbindungen?
  • Wer ist fachlicher Owner?
  • Wer prüft die Logs, wenn etwas schiefgeht?
  • Wer entscheidet, ob ein Agent eingesetzt werden darf?
     

Diese Fragen sind nicht glamourös. Aber sie verhindern, dass Security erst dann eingebunden wird, wenn der Agent bereits produktiv arbeitet und niemand mehr genau weiß, welche Berechtigungen er eigentlich erhalten hat.

Sechs Schritte zu kontrollierter AI Governance in Microsoft 365

Zum Einstieg muss kein Großprojekt gestartet werden. Alles, was Sie benötigen, ist ein pragmatisches Kontrollbild in 6 einfachen Schritten:

  1. Bestand aufnehmen. Welche Copilots, Agents und KI-Tools sind im Einsatz oder geplant?
  2. Datenrisiken priorisieren. Nicht alle Risiken müssen gleichzeitig adressiert werden. Setzen Sie für den Anfang dort an, wo sensible, vertrauliche oder geschäftskritische Daten verarbeitet werden.
  3. Berechtigungen prüfen. Inspizieren Sie SharePoint, Teams, OneDrive, Gruppen, Gäste, externe Freigaben und ownerlose Bereiche.
  4. Klassifizierung und Schutz etablieren. Sensitivity Labels, DLP, Retention, Audit und passende Rollenmodelle bilden eine belastbare Grundlage.
  5. Verantwortlichkeiten definieren. Fachbereich, IT, Security, Datenschutz, Compliance und Einkauf müssen wissen, wer welche Entscheidung trifft.
  6. Nachvollziehbarkeit sicherstellen. Wenn ein Agent handelt, muss später erklärbar sein, was passiert ist, welche Daten betroffen waren und welcher technische oder fachliche Kontext zugrunde lag.

Es handelt sich hierbei nicht um eine abstrakte Governance-Übung. Vielmehr betreiben Sie Grundhygiene für Ihre KI- in Unternehmensumgebungen.

Fazit: AI Agents brauchen Governance vor dem produktiven Einsatz

AI Agents sind nicht einfach nur ein weiteres Produktivitätsfeature. Sie verändern die Art, wie Unternehmen über Zugriff, Kontrolle und Verantwortung nachdenken müssen. Copilot hat sichtbar gemacht, wo Daten zu weitreichend verfügbar sind. Die Einführung von Agents bringt erhöhten Druck mit sich, weil aus Sichtbarkeit Handlung werden kann.

Die gute Nachricht: Unternehmen müssen nicht bei Null anfangen. Viele der notwendigen Bausteine existieren bereits in Microsoft 365 und Microsoft Purview. Datenklassifizierung, DLP, Audit, Berechtigungsreviews, Insider Risk Management, Retention, DSPM, Entra Governance und saubere Owner-Modelle sind keine exotischen Spezialthemen. Sie sind die Grundlage dafür, KI kontrolliert einzusetzen.

Die schlechte Nachricht: Wenn diese Grundlage fehlt, wird ein Agent nicht automatisch vorsichtig. Er arbeitet mit dem, was er bekommt. Und genau deshalb sollte AI Governance nicht erst dann etabliert werden, wenn der erste Vorfall untersucht werden muss. Sie beginnt vorher: Bei den Daten, bei den Berechtigungen, bei den Verantwortlichkeiten. Und bei der ehrlichen Frage:

Würde die Organisation einem Menschen mit denselben Berechtigungen vertrauen, diese Aktion auszuführen?

Wenn die Antwort unklar ist, sollte ein Agent es auch nicht dürfen.

FAQ

Was verändert sich durch AI Agents in Microsoft 365?
AI Agents verändern die Governance-Frage, weil sie Informationen nicht nur finden, sondern Aufgaben vorbereiten, Inhalte erstellen, Dokumente verändern, E-Mails formulieren, Prozesse anstoßen oder mit Geschäftsanwendungen interagieren können.

Warum brauchen AI Agents neue Governance?
AI Agents brauchen neue Governance, weil sich die zentrale Frage erweitert: Es geht nicht mehr nur darum, wer Informationen sehen darf, sondern auch darum, wer oder was mit diesen Informationen handeln darf.

Was bedeutet Overacting bei AI Agents?
Overacting beschreibt die Fähigkeit von Agents, mehr tun zu können, als eine Organisation eigentlich kontrollieren kann. Dazu gehören etwa Zugriffe auf Postfächer, SharePoint, CRM-Systeme oder Workflows.

Welche Risiken machen Copilot und AI Agents sichtbar?
Copilot und AI Agents machen bestehende Daten- und Berechtigungsrisiken schneller sichtbar. Dazu gehören alte SharePoint Sites, zu weitreichende Berechtigungen, externe Freigaben, ownerlose Teams, sensible Inhalte ohne Klassifizierung und unklare Ablagestrukturen.

Was bedeutet AI Readiness für Daten und Berechtigungen?
AI Readiness bedeutet, dass die größten Risiken in der Datenlandschaft bekannt und adressierbar sind. Entscheidend ist, welche SharePoint Sites zu weitreichend freigegeben sind, wo Anyone-Links bestehen, welche sensiblen Daten unlabeled sind und welche Inhalte für Copilot oder Agents eingeschränkt werden sollten.

Welche Rolle spielt Microsoft Purview bei AI Governance?
Microsoft Purview unterstützt AI Governance als Kontrollinstanz. Sensitivity Labels, DLP, Audit, Insider Risk Management, Retention, Records Management und DSPM for AI helfen, Daten einzuordnen, Bewegungen sichtbar zu machen und Risiken in der Datenlandschaft gezielter zu erkennen.

Welche drei Fragen sollten Unternehmen zur Governance von AI Agents klären?
Unternehmen sollten klären, welche KI-Systeme und Agents im Einsatz sind, ob Daten und Berechtigungen AI ready sind und wer Entscheidungen zu Agents, Datenquellen, Risiken, externen Verbindungen, Logs und Freigaben trifft.

Wann sollte AI Governance für Copilot und AI Agents etabliert werden?
AI Governance sollte vor dem produktiven Einsatz von AI Agents etabliert werden. Sie beginnt bei Daten, Berechtigungen und Verantwortlichkeiten, nicht erst bei der Untersuchung eines Vorfalls.

The-Agentic-Era-AdobeStock_1494586346-Swo-SITECORE-cta-banner

Ist Ihre Microsoft 365 Umgebung AI Agents ready? 

Wir helfen Ihnen dabei, Ihre Governance-Strukturen für den sicheren KI-Einsatz fit zu machen! 

Ist Ihre Microsoft 365 Umgebung AI Agents ready? 

Wir helfen Ihnen dabei, Ihre Governance-Strukturen für den sicheren KI-Einsatz fit zu machen! 

Author

julian-kusenberg-contact

Julian Kusenberg
Senior Consultant Digital Workplace Advisory | Microsoft MVP