Physical AI: Die eigentliche Herausforderung beginnt in der Organisation
Mit generativer KI, autonomen Agenten und physischen Systemen wächst der Handlungsspielraum der Technologie. Für Unternehmen entsteht daraus eine organisatorische Aufgabe: Sie müssen Verantwortlichkeiten klären, Aufsichtsmechanismen etablieren und das Zusammenwirken von Mensch und System strukturiert gestalten.
Physical AI erweitert den Einsatz von KI auf die physische Welt. Roboter übernehmen Aufgaben in Lagerhallen und Produktionslinien, autonome Systeme interagieren mit ihrer Umgebung, robotergestützte Verfahren kommen auch in sensiblen Bereichen wie der Medizintechnik zum Einsatz. Bemerkenswert ist dabei weniger die einzelne Anwendung. Denn generative KI, agentische Systeme und Physical AI unterscheiden sich zwar technisch erheblich, greifen aber an derselben Stelle in Unternehmen ein: bei Entscheidungsrechten, Verantwortung und menschlicher Aufsicht. Je autonomer Systeme handeln, desto stärker wird KI deshalb von einer Technologie- zu einer Organisationsaufgabe.
Je autonomer Systeme handeln, desto stärker wird KI von einer Technologie- zu einer Organisationsaufgabe.
Besonders sichtbar wird diese Entwicklung bei Physical AI. Anders als rein digitale Anwendungen wirken solche Systeme unmittelbar auf ihre physische Umgebung. Eine technologische Grundlage dafür bilden sogenannte World Foundation Models, die Zusammenhänge der physischen Welt modellieren und die Entwicklung von Robotern und autonomen Systemen für reale Umgebungen unterstützen können.
Wenn KI handelt, steigen die Anforderungen an Kontrolle
Damit verändert sich auch die Tragweite von Fehlern. Solange ein KI-System Textentwürfe liefert oder Handlungsoptionen vorschlägt, lässt sich das Ergebnis in der Regel noch prüfen, bevor daraus eine Handlung wird. Steuert ein System dagegen eine Anlage oder führt selbst einen Arbeitsschritt aus, wirken sich Fehlentscheidungen unmittelbar auf Menschen, Maschinen oder Abläufe aus. Entsprechend steigen die Anforderungen an Sicherheit und Kontrolle.
Dieses Organisationsproblem beschränkt sich nicht auf Physical AI. Es entsteht überall dort, wo Systeme nicht mehr nur unterstützen, sondern selbstständig handeln. Im Kundenservice etwa kann KI zunächst Informationen aufbereiten oder Antworten formulieren. Mit wachsender Autonomie kann ein System darüber hinaus Vorgänge einordnen und weitere Bearbeitungsschritte auslösen. Technologisch unterscheidet sich das grundlegend von einem Roboter in einer Produktionsumgebung. Die organisatorische Fragestellung ist dieselbe: Wer verantwortet das Ergebnis, wenn die Ausführung zunehmend beim System liegt?
Verantwortung lässt sich nicht automatisieren
Damit rückt die Organisation in den Mittelpunkt. Solange KI bei einzelnen Aufgaben lediglich unterstützt, lassen sich Zuständigkeiten meist innerhalb bestehender Rollen abbilden. Übernehmen Systeme dagegen mehrere Schritte oder lösen eigenständig Aktionen aus, reichen etablierte Verantwortungsmodelle nicht mehr aus. Unternehmen müssen dann klären, wer für KI-gestützte Entscheidungen verantwortlich ist und ab welchem Punkt ein menschlicher Eingriff zwingend vorgesehen ist.
Sobald KI eigenständig handelt, müssen Fachbereiche und IT gemeinsam die Grenzen des Systems definieren.
Diese Klärung ist nicht allein eine Frage guter Organisationsgestaltung, sondern inzwischen auch regulatorisch verankert: Der EU AI Act sieht für Hochrisiko-KI-Systeme eine wirksame menschliche Aufsicht während ihres Einsatzes vor. Die dafür vorgesehenen Personen müssen unter anderem in der Lage sein, die relevanten Fähigkeiten und Grenzen einer Technologie angemessen zu verstehen, ihren Betrieb zu überwachen und gegebenenfalls einzugreifen oder das System zu stoppen. Das lässt sich nicht nachträglich ergänzen, sobald eine Anwendung technisch steht. Verantwortlichkeiten und Eingriffsmöglichkeiten müssen von Beginn an Teil des Prozessdesigns sein.
Autonomie verändert das Operating Model
Mit wachsender Autonomie steigt nicht nur die Zahl der Aufgaben, die ein System übernehmen kann. Auch die organisatorischen Schnittstellen verändern sich. Sobald KI eigenständig Prozessschritte ausführt, müssen Fachbereiche und IT gemeinsam definieren, innerhalb welcher Grenzen das System agiert. Compliance und Sicherheit müssen festlegen, welche Anforderungen an Kontrolle und Dokumentation gelten. Bei physischen Systemen kommen je nach Anwendungsfall Produktion und Operational Technology hinzu.
Damit tritt der soziotechnische Charakter von Organisationen stärker hervor: Technische und organisatorische Entscheidungen lassen sich kaum mehr trennen, da jede Anpassung an der Automatisierungslogik zugleich Rollen, Zuständigkeiten und Eskalationspfade berührt – und umgekehrt. Für das Operating Model bedeutet das, Verantwortlichkeiten über bestehende Funktionen hinaus entlang des gesamten KI-gestützten Prozesses und seiner Schnittstellen zu definieren.
Führung muss Autonomie gestalten
Führungskräfte müssen nicht nur Ziele und Verantwortlichkeiten für Menschen definieren, sondern zunehmend auch die Grenzen maschineller Autonomie. Sie müssen festlegen, welche Aufgaben delegierbar sind und wo menschliches Urteilsvermögen unverzichtbar bleibt.
Je mehr Aufgaben KI übernimmt, desto enger müssen Technologie und Organisation zusammen gedacht werden.
Ein „Human in the Loop“ allein beantwortet diese Frage noch nicht. Entscheidend ist, welche Funktion der Mensch im jeweiligen Prozess tatsächlich übernimmt und ob er dafür die nötigen Befugnisse und die fachliche Grundlage hat, um ein Ergebnis zu beurteilen. Damit verändern sich auch Kompetenzanforderungen: Je mehr operative Aufgaben KI vorbereitet oder übernimmt, desto stärker zählen Urteilsvermögen und der souveräne Umgang mit Ausnahmesituationen. Unternehmen müssen das in Rollenprofile und Qualifizierung übersetzen. Human Oversight wird so zu einer organisatorischen Fähigkeit, nicht zur Zusatzaufgabe Einzelner.
Organisation und Technologie gemeinsam entwickeln
Für Unternehmen, die KI über einzelne Anwendungsfälle hinaus einsetzen wollen, reicht eine technologische Roadmap deshalb nicht aus. Sie benötigen parallel ein organisatorisches Zielbild. Dazu gehört zunächst eine bewusste Entscheidung darüber, welcher Autonomiegrad für einen Prozess sinnvoll ist. Daraus lassen sich Verantwortlichkeiten, menschliche Eingriffspunkte und Anforderungen an Monitoring und Dokumentation ableiten.
Ebenso wichtig ist die Zusammenarbeit über bestehende Funktionsgrenzen wie IT, Fachbereiche, Compliance und Co. hinweg, die nicht erst bei Problemen zusammenkommen, sondern bereits beim Design KI-gestützter Prozesse.
Je mehr Aufgaben KI-Systeme übernehmen, desto enger müssen Technologie und Organisation zusammen gedacht werden. Unternehmen, die Entscheidungsrechte, Kompetenzen und Kontrollmechanismen früh definieren, schaffen damit die Voraussetzung, autonome Systeme sicher in bestehende Geschäftsprozesse zu integrieren und anschließend zu skalieren.
