Schritt für Schritt: So entsteht ein KI-Agent
Mit Agentensystemen tritt generative KI in eine neue Ära ein: Die smarten Helfer können nicht nur Texte schreiben und Fragen beantworten, sondern auch komplexe Geschäftsprozesse automatisieren. Doch wie sieht der Weg zum produktiven Agenten konkret aus?
Ein KI-Agent lässt sich als digitaler Assistent beschreiben, der Aufgaben eigenständig erledigt. Beispiel Vertrieb: Hier kann er Teams bei Routineaufgaben entlasten, indem er Interaktionen mit wichtigen Kunden im Blick behält, offene Rechnungen und Lieferengpässe prüft und individuelle Angebote erstellt. Dafür muss er in der Lage sein, Daten aus dem ERP-System zu ziehen, CRM-Historien zu bewerten und Produktdatenbanken abzufragen.
Damit ein KI-Agent im Arbeitsalltag sinnvoll unterstützen kann, muss er den Geschäftskontext verstehen.
Im Kern handelt es sich bei jedem Agenten um ein Large Language Model (LLM). Damit es Aufgaben autonom ausführen kann, benötigt es vier Dinge: Planung, Gedächtnis, Zugriff auf Tools sowie den relevanten Kontext. Damit ausgestattet kann das System Schlussfolgerungen ziehen und selbständig agieren. Der Ablauf sieht dann aus wie folgt (siehe Bild unten):
- Verstehen (Thought): Das LLM analysiert Nutzeranfrage und Ist-Zustand.
- Planen (Plan): Es überlegt sich den nächsten logischen Schritt.
- Handeln (Action): Es wählt ein passendes Tool und führt es aus.
- Beobachten (Observation): Es nimmt das Ergebnis auf, speichert es im Gedächtnis und der Loop beginnt von vorn, bis das Ziel erreicht ist.
Context Engineering: Die richtigen Informationen zur richtigen Zeit
Damit ein KI-Agent hilfreiche Ergebnisse liefert, sind Tools und Kontext entscheidend. Der Kontext beschreibt, wie ein Agent seine Aufgaben löst und auf welches Wissen er dabei zurückgreifen kann. Typischerweise besteht er aus drei Bausteinen:
- System Prompt: Diese grundlegenden Instruktionen definieren Persona, Umgebung und Leitplanken, z. B. „Du bist ein Sales Assistant für die XYZ GmbH. Deine Aufgabe ist es, Vertriebler bei der Vorbereitung von Kundenterminen zu unterstützen.“
- Relevante Informationen (Domain Knowledge): Interne Dokumente, Prozessbeschreibungen, abgerufene ERP-Datenbankeinträge
- User Prompt: Die eigentliche Nutzeranfrage, z. B.: „Erstelle mir ein Briefing für den Kundentermin morgen.“
Die gezielte Auswahl und Bereitstellung dieser Informationen wird als Context Engineering bezeichnet. Ziel ist es, dem Modell die richtigen Informationen zur richtigen Zeit zur Verfügung zu stellen. Denn: Zu wenig Kontext führt zu ungenauen Ergebnissen, zu viel erhöht Kosten, Latenz und Fehleranfälligkeit (Context Rot).
Die richtige Werkzeugstrategie für KI-Agenten
Eine zentrale Frage bei der Entwicklung von KI-Agenten lautet: Wie viel Verantwortung soll die KI selbst übernehmen und welche Aufgaben sollten besser mithilfe klassischer Software erledigt werden?
Beispielszenario: Ein Vertriebsmitarbeiter fordert einen Quartalsbericht für einen Kunden an, einschließlich Umsatzentwicklung und gewährter Rabatte.
Ansatz 1: Atomic-Ansatz (viele kleine Werkzeuge)
Der KI-Agent erhält Zugriff auf zahlreiche Einzelfunktionen, etwa für den Abruf von Kundendaten, Rechnungen oder Kontakten. Er sammelt die benötigten Informationen selbst und erstellt darauf aufbauend den Bericht.
Der Vorteil: Der Agent ist extrem flexibel und kann viele unterschiedliche Fragen beantworten. Zudem lässt er sich relativ schnell entwickeln.
Der Nachteil: Sobald komplexe Berechnungen oder Geschäftslogiken ins Spiel kommen, steigt das Fehlerrisiko. Als Sprachmodelle sind LLMs nicht primär darauf ausgelegt, große Datenmengen zuverlässig auszuwerten oder komplizierte Berechnungen anzustellen. Die Wahrscheinlichkeit ist hoch, dass es Zahlen fehlerhaft interpretiert und Regeln falsch anwendet.
Ansatz 2: Domain-Ansatz (spezialisierte Fachwerkzeuge)
Alternativ kann die eigentliche Berechnung in einem speziell entwickelten Tool erfolgen, das mithilfe von klassischem Programmcode arbeitet. Der KI-Agent übergibt die Anfrage an das Tool, das Umsätze, Rabatte und andere Kennzahlen zuverlässig berechnet. Der Agent formuliert am Ende nur noch fehlende Textbausteine.
Der Vorteil: Höhere Genauigkeit, bessere Nachvollziehbarkeit und geringeres Fehlerrisiko.
Der Nachteil: Die Lösung erfordert mehr Entwicklungsaufwand und ist weniger flexibel für neue Anwendungsfälle.
Der Praxisansatz: Das Beste aus beiden Welten
In der Praxis setzen viele Unternehmen auf einen Hybridansatz. Kritische Prozesse wie Preisberechnungen, Vertragsentwürfe oder Buchhaltung werden durch spezialisierte Tools erledigt, um Halluzinationen auszuschließen. Für weniger kritische Aufgaben – etwa die Recherche von Kundeninformationen oder allgemeine Datenabfragen – kann die KI dagegen mit atomaren Tools arbeiten. Wenn ein Agent Daten verändern oder löschen soll, sollte außerdem in jedem Fall ein Mensch einbezogen werden.
Das Problem des impliziten Wissens
Damit der KI-Agent im Arbeitsalltag sinnvoll unterstützen kann, muss er auch den Geschäftskontext verstehen. Oft ist relevantes Wissen jedoch nur in den Köpfen der Mitarbeitenden vorhanden und nicht extern dokumentiert. In der klassischen Softwareentwicklung war das unproblematisch, denn dort lag die Aufgabe der IT allein in der technischen Lösungsentwicklung. Die fachliche Expertise verblieb in den Geschäftsabteilungen und kam dann zum Einsatz, wenn sie die Software anwendeten. KI-Agenten sind jedoch darauf ausgelegt, autonom zu agieren. Daher müssen sie auch fachliche Zusammenhänge kennen und verstehen, denn das Wissen vor dem Bildschirm (der Anwender) fehlt jetzt. Gelingt dies nicht, scheitert der Agent: Er kann dann zwar technisch fehlerfreie Ergebnisse liefern, wird aber fachlich unbrauchbare Entscheidungen treffen.
Die Entwicklung von KI-Agenten setzt ein gutes Verständnis der Geschäftsprozesse voraus.
Ein Weg, um KI-Agenten implizites Expertenwissen aktiv beizubringen, liegt darin, Fachexperten dauerhaft in die Entwicklerteams einzubeziehen. Zusammen mit den Entwicklern prüfen sie die Gedankengänge des KI-Agenten und korrigieren sie kontinuierlich. Ergänzend lässt sich das System so designen, dass die Fachexperten selbst die Hoheit über das Prozesswissen übernehmen und aktiv am Prompting mitwirken. Dies setzt allerdings Schulungen im Prompt Engineering voraus.
Dies zeigt: Wer erfolgreiche KI-Agenten entwickeln möchte, muss Geschäftsprozesse, Anforderungen und Arbeitsabläufe der Anwender deutlich stärker berücksichtigen als bei der klassischen Softwareentwicklung.
Vom Prototyp zur produktiven Lösung
Der Bau eines funktionierenden KI-Agenten ist nur der erste Schritt. Damit ein Agent im Unternehmensalltag zuverlässig eingesetzt werden kann, müssen drei weitere Voraussetzungen erfüllt sein:
- Sicherheit: Ein Agent darf nur auf die Informationen zugreifen, für die auch der Anwender zugangsberechtigt ist. Vertriebsmitarbeiter sollten beispielsweise nur die Kundendaten sehen können, für die sie eine Freigabe besitzen. Gleichzeitig müssen Entwickler Schutzmaßnahmen implementieren, die verhindern, dass manipulierte Eingaben den Agenten zu unerlaubten Aktionen verleiten – das Thema Governance spielt also eine entscheidende Rolle.
- Robustes Error Handling: Klassische Fehlercodes reichen für ein LLM oft nicht aus. Wenn z. B. eine Datenbankabfrage fehlschlägt, braucht das LLM eine textbasierte Fehlermeldung. So versteht es die Situation und kann nach alternativen Lösungswegen suchen, statt fehlende Informationen durch fiktive Antworten zu ersetzen.
- Asynchronität: Viele Agenten bearbeiten komplexe Aufgaben in mehreren Schritten und brauchen dadurch mehr Zeit als eine klassische Suchanfrage. Um die Nutzererfahrung zu verbessern, ergibt es Sinn, die Architektur so zu gestalten, dass der Agent nach Erhalt der Aufgabe im Hintergrund weiterarbeitet. Der Nutzer wird dann aktiv benachrichtigt, wenn das Ergebnis vorliegt (z. B. per E-Mail).
Erfolgreiche KI-Agenten: Wissenstransfer entscheidet
Der Erfolg von KI-Agenten hängt nicht allein vom Sprachmodell ab. Entscheidend sind darüber hinaus sichere Prozesse, verlässliche Daten und eine technische Architektur, die den produktiven Einsatz im Unternehmen unterstützt. Der Schlüssel zu erfolgreichen Agentenprojekten liegt jedoch in einer engen Verzahnung von Fach- und IT-Teams: Nur wenn der Agent versteht, was in den Köpfen der erfahrenen Mitarbeitenden vorgeht, kann er im Alltag eine echte Unterstützung sein.
