Autonome Agenten brauchen klare Governance
Für Mitarbeiterinnen und Mitarbeiter gibt es klare Regeln: Wer darf bis zu welcher Summe entscheiden? Wann braucht es eine zweite Freigabe? Und wer greift ein, wenn etwas schiefläuft? Für KI-Agenten müssen dieselben Fragen beantwortet werden, bevor sie im Tagesgeschäft mehr tun als nur Vorschläge liefern.
Stellen wir uns ein Szenario vor: Im Einkauf sind Dutzende Bestellungen eingegangen, die niemand bewusst freigegeben hat. Das Systemprotokoll nennt einen Mitarbeiter als Urheber. Der war zu diesem Zeitpunkt jedoch längst im Feierabend. Tatsächlich hat ein KI-Agent bestellt, der im Kontext des Kontos des betreffendes Mitarbeiters arbeitete und eine Preisänderung falsch verstanden hat. Der offensichtliche Fehler liegt im Missverständnis, doch der wichtigere in der Organisation, denn der Agent durfte handeln, ohne dass klar war, welche Grenze für ihn galt und wer bei einer Abweichung eingreift.
Wer einem System erlaubt, im Namen des Unternehmens zu handeln, trifft eine Organisationsentscheidung.
Der wirtschaftliche Mehrwert von KI-Agenten liegt darin, Arbeit zu beschleunigen, Entscheidungen vorzubereiten und wiederkehrende Aufgaben selbstständig zu erledigen. Was gut funktioniert, lässt sich schnell vervielfachen – ein Fehler allerdings auch. Am Anfang stehen meist Zahlen zu eingesparten Arbeitsstunden, kürzeren Durchlaufzeiten und automatisierbaren Vorgängen. Doch was kostet es, wenn Software eine wirtschaftlich relevante Handlung ausführt, die niemand geprüft hat?
Zurechnung ist kein technisches Detail
Unternehmen verteilen Verantwortung jeden Tag. Einkäufer dürfen bis zu einer bestimmten Summe bestellen, Teamleitungen geben Budgets frei, für bestimmte Zahlungen gilt das Vier-Augen-Prinzip. Das funktioniert, weil Rollen, Grenzen und Eskalationswege bekannt sind. Doch wenn ein KI-Agent unter dem persönlichen Konto eines Mitarbeiters handelt, wird diese Ordnung unscharf. Im Protokoll erscheint der Mensch als Handelnder, obwohl er die einzelne Aktion weder ausgelöst noch gesehen hat. Für Revision und Compliance ist das problematisch.
Damit die Spur nicht verwischt, braucht der KI-Agent eine eigene technische Kennung, die klar einer Person oder Funktion im Unternehmen zugeordnet ist. Nicht als digitale Persönlichkeit und auch nicht als gleichrangiger Akteur, sondern als zu überwachender digitaler Assistent. Während die Kennung zeigt, wer technisch gehandelt hat, klärt die Zuordnung, wer organisatorisch verantwortlich ist.
Software braucht ein Mandat, keine Generalvollmacht
Zu beachten ist, dass eine eigene Kennung allein an dieser Stelle nicht ausreicht. Entscheidend ist, was der KI-Agent im Namen des Unternehmens, bzw. der dafür verantwortlichen Person tun darf: Ein Angebotsagent kann Entwürfe erstellen, sollte aber nicht beliebig Rabatte gewähren. Ein Einkaufsagent kann Standardteile bis zu einer festgelegten Summe bestellen, aber keinen neuen Lieferanten anlegen. Ein Agent für die Personalverwaltung kann Termine koordinieren, ohne Vertragsdaten ändern zu dürfen.
Das Unternehmen muss selbst bestimmen, wer für einen KI-Agenten, seinen Auftrag und seine Grenzen einsteht.
Solche Grenzen ähneln Vollmachten, Budgetregeln und Freigabestufen, die Unternehmen längst kennen. Neu ist, dass sie für Software formuliert und technisch durchgesetzt werden müssen. Eine Richtlinie im Intranet genügt nicht, wenn das System sie ignorieren kann. Hierbei sind besonders die Schwellen wichtig, an denen ein Mensch übernimmt: bei hohen Bestellwerten, neuen vertraglichen Verpflichtungen, Zahlungen, Datenlöschungen oder der Weitergabe sensibler Informationen. Wo diese liegen, hängt vom Geschäft und vom Risiko ab. Über die konkrete Höhe lässt sich streiten. Über das Prinzip nicht.
Wer greift ein, wenn der Agent aus der Spur läuft?
Auch mit guten Regeln werden Fehler nicht gänzlich verschwinden. Im Ernstfall muss sofort klar sein, wer eine auffällige Serie von Vorgängen prüft, wer den KI-Agenten stoppen darf und wer über die Folgen entscheidet. Muss eine Bestellung storniert, ein Kunde informiert oder eine Buchung korrigiert werden? Sind ähnliche Fehler auch an anderer Stelle passiert?
Wenn die Antwort darauf „die IT“ ist, reicht das nicht. Denn die IT kann zwar Zugänge sperren und Systeme abschalten, sie entscheidet aber nicht allein, ob eine Bestellung storniert, ein Kunde informiert oder ein Vorgang intern aufgearbeitet werden muss. Dafür braucht es Fachbereich, Compliance und Unternehmensleitung. Diese Zuständigkeiten erst im Zwischenfall auszuhandeln, kostet jedoch kostbare Zeit.
Governance ist eine Organisationsfrage
Der Einsatz von KI-Agenten ist keine gewöhnliche Softwarebeschaffung. Wer einem System erlaubt, im Namen des Unternehmens zu handeln, trifft eine Organisationsentscheidung. Somit gehört sie in dieselbe Kategorie wie Zeichnungsregeln, Vollmachten oder Budgetgrenzen.
Einerseits kann Regulierung hier einen Rahmen setzen. Andererseits muss das Unternehmen selbst bestimmen, wer für einen KI-Agenten, seinen Auftrag und seine Grenzen einsteht. Deshalb sollte KI-Governance vor allem als Compliance-Projekt behandelt werden, da es um die Verlässlichkeit des eigenen Handelns gegenüber Kunden, Partnern und Beschäftigten geht.
Viele Agenten brauchen eine zentrale Ordnung
Für das Erfassen einer Handvoll Pilotagenten mag eine Liste noch genügen. Sobald KI-Agenten in Dutzenden Prozessen arbeiten, verliert sie jedoch ihren Wert. Spätestens dann muss zentral erkennbar sein, welche Agenten aktiv sind, wer sie freigegeben hat, welchen Auftrag sie haben, welche finanziellen und fachlichen Grenzen gelten und wie sie im Notfall gestoppt werden. Ein flexibles Identitäts- und Zugriffsmanagement (IAM) liefert dafür die technische Grundlage.
Mit der offenen IAM-Plattform Nubus arbeitet Univention daran, Identitäten und Berechtigungen zentral zu verwalten und Zugriffe eindeutig nachvollziehbar zu machen. Die Technik schafft damit die Voraussetzung. Welchen wirtschaftlichen Handlungsspielraum ein KI-Agent erhält, entscheidet jedoch das Unternehmen. Und Kontrolle zeigt sich nicht daran, dass nie etwas schiefgeht, sondern im Moment der Abweichung: Entscheidend ist, wer eingreift, wenn ein Agent den ihm zugedachten Rahmen überschreitet.
