Sind KI-Systeme Team-Player?
Künstliche Intelligenz hat sich bisher schon als Werkzeug, als Kollege und auch als Manager bemerkbar gemacht. Jeder dieser Bereiche bringt seine eigene Problematik mit. Höchste Zeit, über über das künftige Verhältnis zwischen Mensch und Maschine nachdenken.
Wir werden überrannt mit Vorhersagen über KI-Systeme, die Menschen die Arbeitsplätze wegnehmen, ausgedrückt in Zahlen und Prozentsätzen und Billionen von Dollar. Doch alle meine bisherigen Jobs waren immer in Organisationen, in Teams, mit Kollegen und Strukturen, sozialer Dynamik und Büropolitik. Die Frage, die wir uns eher stellen sollten, ist: Welche Rolle werden KI-Systeme in Unternehmen spielen? Werden sie Manager sein? Oder Kollegen? Oder einfach nur bessere Werkzeuge?
KI als Führungskraft
KI-Systeme erfüllen schon heute alle möglichen Management-Funktionen.
Wenn Sie glauben, dass Sie noch nie jemanden getroffen haben, dessen Vorgesetzter ein KI-System ist, dann denken Sie noch einmal nach. Die Arbeit jedes Uber-Fahrers wird ihm durch einen Algorithmus zugeordnet; er hat nur 15 Sekunden Zeit, um eine Fahranforderung anzunehmen oder abzulehnen, ohne das Ziel oder den Fahrpreis zu kennen. Die Leistung der Fahrer wird automatisch überprüft, ihr Gehalt wird vom System bestimmt, und wenn ihre Bewertungen zu schlecht ausfallen, wird dasselbe System ihnen die Arbeit verweigern. Auch die Motivationsförderung erfolgt durch eine App, in diesem Fall kommt die Hilfe von einem Service-Mitarbeiter in einem fernen Land und nicht vom Personalchef.
Im Personalwesen treffen KI-Systeme die Vorauswahl von Bewerbern. Tatsächlich erfüllen KI-Systeme in Unternehmen auf der ganzen Welt bereits alle traditionellen Managementfunktionen¹. Aber die heutigen KI-Manager erschaffen entmenschlichte Systeme, in denen die Arbeitnehmer ohne Respekt und Würde behandelt werden. 90 Prozent der Madrider Logistikmitarbeiter von Amazon haben die Arbeit am Black Friday im Jahr 2018 niedergelegt, es gab Proteste an fünf Standorten in ganz Großbritannien, und in Staten Island in der Nähe von New York versuchen die Angestellten, die erste Gewerkschaft unter den Mitarbeitern von Amazon in den USA zu gründen. KI-geführte Mitarbeiter protestieren gegen ihre Arbeitsbedingungen mit Bannern mit der Aufschrift „We are not robots„. Ironischerweise sind es ihre Vorgesetzten, die Roboter sind.
Ständige Überwachung, als Spiel kaschierte Motivationsversuche und das Mikromanagment einzelner Aufgaben würden bei einem modernen Manager nicht unbedingt als positive Eigenschaften angesehen; aber genau so verhalten sich die heutigen automatisierten KI-Systeme in Führungsrollen. Wir haben eindeutig noch einiges zu tun², bevor wir das KI-Management zum Erfolg führen können.
KI als Werkzeug
Der einfachste Weg, ein KI-System in einem Unternehmen einzusetzen, ist als Werkzeug, das die menschliche Arbeit ergänzt. Das in Gmail aktive KI-System, das Ihre Sätze während der Eingabe vervollständigt, ist ein cleveres KI-Tool. Es hilft Ihnen bei der Arbeit, es kann die Initiative ergreifen und Vorschläge machen, während Sie arbeiten, aber es handelt nicht autonom. Es wird nicht automatisch auf alle Ihre ungelesenen Nachrichten antworten.
Noch bessere KI-Instrumente werden in Unternehmen massive Auswirkungen haben. Sie werden den Menschen helfen, effizienter zu werden oder sogar neue Arbeitsplätze zu schaffen. Oder doch nicht?
„Ich denke, wenn man als Radiologin arbeitet, ist man wie Wile E. Coyote im Cartoon“, sagte Hinton zu mir. „Du bist schon am Rande der Klippe, aber du hast noch nicht nach unten geschaut. Es gibt keinen Boden drunter.“ Deep-Learning-Systeme für die Radiologie und die Kardiologie wurden bereits kommerziell entwickelt. „Es ist nur ganz offensichtlich, dass in fünf Jahren Deep-Learning-Systeme besser sein werden als Radiologen“, fuhr er fort. „Vielleicht dauert es noch zehn Jahre. Ich sagte das in einem Krankenhaus. Es kam nicht so gut an.“ Im Artikel „A.I. versus M.D.“ interviewt Siddhartha Mukherjee den Top-KI-Forscher Geoff Hinton, New Yorker, April 2017.
Sie werden häufig Vorhersagen hören, dass KI-Tools bestimmte Berufe wie die Radiologie ersetzen werden. Die gegenteilige Ansicht ist, dass die Entwicklung eines besseren Werkzeugs die Radiologen bei ihrer Arbeit nur besser macht, so wie es bessere und genauere Scan-Technologien getan haben. Tatsächlich ist der Bereich der Radiologie seit der ersten medizinischen Röntgenaufnahme im Jahr 1896 zugleich mit technologischen Entwicklungen neuer Bildgebungsverfahren wie MRT, Ultraschall, PET und CT gewachsen. Ärzte haben ständig bessere Hilfsmittel entwickelt und eingesetzt und werden dies auch weiterhin tun. KI-Tools werden bald lediglich ein weiterer Teil ihres Instrumentariums sein.
Tools und Jobs werden sich gemeinsam weiterentwickeln.
Ein weiteres Beispiel kommt aus dem Bereich des Designs. „Generative“ maschinelle Lerntechniken erzeugen neuartige Designs, wenn ein KI-System mit Beispieldaten und einigen Einschränkungen angelernt wird. Erste Versuche zeigen, dass die KI-Systeme Designern beim Entwurf aller möglichen Produkte, von Schuhen bis hin zu Fonts, helfen können und die Herstellerfirmen entwickeln bereits verbesserte Produkte wie die hier gezeigte Halterung für einen Sicherheitsgurt. So wie Fotografen und Illustratoren Werkzeuge wie Photoshop eingesetzt haben, erwarten wir von Designern aller Art, dass sie generative KI nutzen, um ihre Arbeitsabläufe zu beschleunigen oder ihre Designs zu verbessern.
Ich glaube, dass sich Tools und Arbeitsplätze gemeinsam weiterentwickeln werden, so wie sie es immer getan haben. Mit clevereren KI-Tools erhalten wir neue Arten von Designern und Künstlern, Anwälten und Buchhaltern, Schriftstellern und Redakteuren, Ingenieuren und Architekten³.
KI als Kollege
Wenn wir uns also um KI-Manager sorgen und uns für KI-Tools begeistern, was ist dann mit KI-Systemen als Kollegen? Damit ein KI-System den Titel „Kollege“ verdient, muss es Selbständigkeit beweisen und Verantwortung übernehmen können. Wir müssen in der Lage sein, ihm ein gewisses Maß an Kontrolle zu geben.
Ein KI-Raumthermostat hat Kontrolle und Autonomie, aber seine Aufgabe ist sicherlich zu kein, um sich als Mitarbeiter zu qualifizieren. Ein Roboter-Staubsauger? Reicht immer noch nicht. Ein Selbstfahrender Traktor, der mit einem Landwirt zusammenarbeitet? Automatisiertes Handelssystem? Jetzt kommen wir der Sache näher. Aber die Idee eines autonomen automatisierten Helfers ist nicht neu. Wir haben seit 100 Jahren Autopiloten in Flugzeugen und sie können uns wertvolle Erkenntnisse darüber vermitteln, wie wir mit KI-Mitarbeitern in unseren Organisationen umgehen können.
Damit ein KI-System den Titel „Kollege“ verdient, muss es Selbständigkeit beweisen und Verantwortung übernehmen können.
Das Problem mit Autopiloten ist, dass sie zu gut sind. Piloten verlassen sich während des größten Teils eines Fluges auf sie. Wenn also ein Autopilot mal versagt und menschliche Piloten plötzlich die Kontrolle übernehmen müssen, passieren Unfälle. Beim Absturz einer Asiana Airlines-Maschine im Jahr 2013, bei dem das durch den Autopiloten gesteuerte Flugzeug zu einem zu langsamen Landeanflug ansetzte, bemerkte keiner der vier Piloten an Bord. Bei den jüngsten Abstürzen der Boeing 737 Max konnten die Piloten nicht schnell genug die Kontrolle übernehmen. Ein Mitarbeiter, der plötzlich aufgibt, wenn es einen Notfall gibt, ist kein sicheres Teammitglied.
Die Konstrukteure von autonomen Autos haben darüber nachgedacht und fünf Ebenen der Autonomie definiert. Im Moment sind wir hauptsächlich auf Ebene 2 unterwegs, mit Funktionen wie Spurverfolgung oder automatisiertes Parken. Auf Stufe 4 werden wir volle Autonomie haben, aber mit Einschränkungen: innerhalb eines gut kartierten Gebietes, wenig Verkehr, gutes Wetter. Laut Stufe 3 muss der Fahrer jederzeit bereit sein, die Kontrolle über das Fahrzeug zu übernehmen. Die Frage ist: Kann Stufe 3 jemals sicher sein, wenn ein Auto in der Lage sein muss, die Kontrolle kurzfristig an den Fahrer zurückzugeben? Schließlich sind Menschen langsam, unaufmerksam, leicht ablenkbar und bilden im Notfall kaum das zuverlässigste Fallback-System, wie wir aus den Erfahrungen der Autopiloten wissen. Die meisten Automobilhersteller hoffen, Stufe 3 zu überspringen.
Ein Mitarbeiter, der plötzlich aufgibt, wenn es einen Notfall gibt, ist kein sicheres Teammitglied.
Die Frage der Übergabe der Kontrolle ist nicht nur für Autos und Flugzeuge relevant. Die Frage wird in jedem Bereich gestellt werden. Chatbots für psychisch Kranke greifen in schwierigen Situationen auf einen menschlichen Therapeuten zurück und übergeben die Gesprächskontrolle. KI-basierte Diagnosesysteme in der Medizin, die eine Priorisierung von medizinischer Hilfeleistung durchführen, agieren unabhängig voneinander als autonome Mitarbeiter und übertragen die Kontrolle über verschiedene Wege auf menschliche Mitarbeiter.
Einige gerichtliche Urteile bestehen auf Transparenz darüber, wo diese Kontrolle liegt – Kalifornien verlangt beispielsweise jetzt von KI-Systemen, dass sie sich als „keine natürliche Person“ identifizieren. Googles äußerst eindrucksvoller Duplex-KI-Assistent, der telefonieren kann, um Termine im Namen seines Nutzers zu vereinbaren, wird sich von nun an, nachdem ihm schon betrügerisches Verhalten vorgeworfen wurde, als Computersystem identifizieren. Wir brauchen Klarheit über Urheberschaft und Haftung. Sie werden für die Arbeit zuständig sein, aber werden sie jemals zur Verantwortung gezogen werden können?
„Ist dir klar“, sagte Ng zu Darcy, „dass Woebot heute mit mehr Menschen gesprochen hat, als ein menschlicher Therapeut in seinem Leben jemals könnte?“ Andrew Ng (bekannter KI-Forscher) im Gespräch mit Alison Darcy (Schöpferin von Woebot und klinische Psychologin), wie in „May A.I. Help You?“, New York Times, November 2018 zitiert.
Wir sollten nicht davon ausgehen, dass ein KI-Mitarbeiter eine einzelne Instanz sein wird wie ein menschlicher Teamkollege. Nicht nur können beliebig viele von ihnen dazu abgestellt werden, rund um die Uhr parallel zu arbeiten, sie können auch alle wie eine einzelne Instanz lernen. Wie Elon Musk über die Tesla-Flotte sagte: „Wenn ein Fahrzeug etwas lernt, dann lernt es jedes Fahrzeug.“
Woebot ist ein Therapie-Chatbot, der entwickelt wurde, um Menschen zu helfen, die an Depressionen oder Angstzuständen leiden. In der ersten Woche sprach er mit 500.000 Menschen und bekam dadurch die Möglichkeit, aus mehr Interaktionen zu lernen, als es ein menschlicher Therapeut je könnte. Es wird starke wirtschaftliche Anreize geben, die den Einsatz solcher Systeme in Unternehmen fördern. Um diese Einsätze erfolgreich zu gestalten, müssen wir uns mit den Fragen der Kontrolle und Autonomie befassen.
Die heutigen Debatten über KI und Arbeitsplätze sind zu einfältig. Es wird nicht viele Berufe geben, die komplett verschwinden. Die Automatisierung unserer Arbeitswelt innerhalb von Organisationen wird komplex, chaotisch und voller unbeabsichtigter Folgen sein. Wir sehen sie bereits.
Diese Seite nutzt einen YouTube-Kanal, der Google Ireland Ltd. gehört. Angaben darüber, welche Daten durch Google verarbeitet und zu welchen Zwecken genutzt werden, finden Sie in der Datenschutzerklärung von Google
Ich habe versucht, die Probleme anders darzustellen, indem ich darüber nachgedacht habe, wie wir mit KI-Systemen in Unternehmen interagieren werden. Der Einsatz von KI-Tools erschließt neue Märkte und neue Berufe. KI-Systeme zur Steuerung der menschlichen Arbeit sind voller ethischer Bedenken und stellen größte Risiken dar. Wenn wir effektive neue Interaktionsmuster für die Übergabe von Kontrolle und für Vertrauen zwischen Mensch und Maschine schaffen können, dann sind KI-Systeme, die als Mitarbeiter autonom arbeiten, der faszinierendste Bereich.
Letztendlich werden diese KI-Systeme in Unternehmen erfolgreich sein, wenn sie gute Team-Player sind und mit ihren menschlichen Kollegen zusammenarbeiten können. Zuerst aber werden unsere KI-Systeme meinungsstarke Mitarbeiter sein, die denken, dass sie immer Recht haben. Die sie Dinge sehr wörtlich nehmen und gelegentlich, wie die Zauberbesen in Disney’s Fantasia, sich unserer Kontrolle entziehen. werdenKonstrukte wie die fünf Ebenen der Autonomie die Entwicklungsdebatten beeinflussen und im Laufe der Zeit entstehen gute Interaktionsmuster. Damit KI-Systeme zu Team-Playern werden, brauchen wir aber eine neue Disziplin des organisatorischen KI-Designs.
Fußnoten
1Was macht eigentlich ein Manager? Die übliche Definition von Harold Koontz und Cyril O’Donnell aus dem Jahr 1955 umfasst die Planung (Zielsetzung), Organisation (Strukturentwicklung, Ressourcenverteilung), Personal (Auswahl, Bewertung, Entwicklung), Führung (Beeinflussung, Führung, Überwachung) und Kontrolle (Überwachung). Für jede dieser Aktivitäten gibt es KI-Systeme auf dem Markt. Anaplan nutzt maschinelles Lernen, um Kunden wie Del Monte neue Geschäftspläne vorzuschlagen, so dass sie angesichts großer Veränderungen wie El Nino schnell umplanen können. Kronos-Software, die von großen Unternehmen wie Starbucks verwendet wird, weist den Mitarbeitern automatisch Schichten zu, um Kosten zu minimieren, meist aber auf Kosten der Mitarbeiter, die dadurch nicht mehr in der Lage sind, ihre Arbeitszeiten vorherzusagen und ihre Kinderbetreuung zu organisieren. Es gibt einen Markt für KI-Systeme, die im Personalwesen eine Vorauswahl der Kandidaten treffen, mit Anbietern wie Pymetrics, Entelo und HiredScore. Unilever verwendet Video-Interviews mit KI-Gesichts- und Verhaltensanalysen, um Kandidaten zu identifizieren. Die neue Google-Ausgründung Humu analysiert Tausende von Mitarbeiterdaten, um sie mit Meldungen „anzustupsen“, die zu effektiveren Verhaltensweisen führen. Percolata, ein Anbieter von algorithmischer Managementsoftware für den Einzelhandel, ordnet Mitarbeiter nach ihrem Verkaufserfolg ein und bewertet die Leistung jedes einzelnen Mitarbeiters. Der Algorithmus von Deliveroo vergleicht automatisch die tatsächlichen mit den vorhergesagten Lieferzeiten, um die Kuriere zu bewerten. KI-Unternehmen zielen auf jeden Aspekt des Führungsverhaltens ab.
2Frederick Winslow Taylor entwickelte im späten 19. Jahrhundert das Konzept der „wissenschaftlichen Betriebsführung„. Durch die Aufzeichnung aller Aktivitäten in einer Fabrik und der dazugehörigen Zeiten versuchte seine Methode, die Produktivität zu maximieren, indem sie „viele Regeln, Gesetze und Formeln festlegte, die das Urteil des einzelnen Arbeiters ersetzen“. Die Ideen des „Taylorismus“ sind immer noch vorhanden, aber wir sind seitdem einen langen Weg gegangen: Eine moderne Fabrik erwartet von den Arbeitern, dass sie selbst Verbesserungen vorschlagen und umsetzen, anstatt blind Anweisungen zu folgen. Das algorithmische Management ist eine neuere Entwicklung und wurde tatsächlich als „digitaler Taylorismus“ bezeichnet. Die sozialen und rechtlichen Konstrukte um sie herum werden erst nach einiger Zeit zusammenwachsen. Die Gewerkschaft UNI Global Union (die 20 Millionen Arbeitnehmer weltweit vertritt) hat ihre Grundsätze für den Datenschutz der Arbeitnehmer veröffentlicht und damit eine stärkere Debatte über die Arbeitsplatzüberwachung und die Art und Weise, wie persönliche Daten verwendet werden sollten, eingeleitet. Die Fairwork Foundation ist ein Projekt zur „Zertifizierung von Online-Arbeitsplattformen unter Nutzung der Hebelwirkung von Arbeitnehmern, Verbrauchern und Plattformen zur Verbesserung des Wohlergehens und der Arbeitsplatzqualität von Digitalarbeitern“. Einige behaupten, dass zukünftige automatisierte Systeme Verzerrungen beseitigen, Diskriminierung reduzieren und für gerechtere und humanere Arbeitszeiten optimieren könnten.
3So wie sich die Radiographie als Disziplin neben der Entwicklung neuer Instrumente wie der MRT entwickelt hat, können wir sehen, dass neue kreative Industrien neben den Werkzeugen, die sie ermöglichen, entstanden sind. Die KI ist nur die neueste Funktion, die es zu nutzen gilt. Musiker haben Entwicklungen wie die E-Gitarre (1932), das Tonband (1935), Synthesizer oder die Hammondorgel (1938) angenommen. Die Musikindustrie verlässt sich heute auf Technologien und Werkzeuge, von der Kreation über die Produktion bis hin zum Vertrieb. Genres wie elektronische Tanzmusik sind Milliardenbranchen. Spotify hat etwa 5 Milliarden Pfund Umsatz und verlässt sich auf KI-Tools, um wöchentlich personalisierte Wiedergabelisten für 190 Millionen Benutzer zu empfehlen. Der Markt für Animationen, Spezialeffekte und Spiele wird auf über 200 Milliarden Pfund geschätzt und basiert größtenteils auf Tools, die sich seit den Siebzigerjahren stetig weiterentwickelt haben und nun KI-Techniken integrieren. Wir befinden uns in den allerersten Phasen der Einführung von Augmented Reality, wo wir das gleiche Muster sehen können: Eine neue Reihe KI-basierter technischer Fähigkeiten und Autorenwerkzeuge ermöglichen die Geburt einer neuen Kreativwirtschaft.
Schlussbemerkung
Jeder, der eine Weile in der KI gearbeitet hat, wird irgendwann am Anfang des Artikels sagen: „Moment mal! Du redest nicht nur über KI-Systeme, du redest über jede Art von Computer-Automatisierung!“. Ganz richtig. Die Auswirkungen dieser Systeme auf unser Leben hängen nicht wirklich davon ab, ob es sich um technisch ausgeführte Algorithmen handelt, die ein Informatiker als KI oder maschinelles Lernen einstufen würde, selbst wenn solche Unterschiede allgemein anerkannt wären. Aber es ist unbestreitbar, dass die Macht der KI diese Probleme in den letzten Jahren an die Oberfläche gebracht hat. Ich glaube, dies ist wirklich eine Debatte über Automatisierung und nicht über KI, und ich benutze unverschämt die Bezeichnung „KI“, um Aufmerksamkeit zu erregen. Ich würde gerne Ihre Gedanken darüber hören, ob ich zu sehr abgeschweift habe!
Danke
Vielen Dank an Kevin Marks, Peter Bloomfield und andere bei Digital Catapult für ihre Anregungen. Frühere Versionen dieses Artikels wurden im Rahmen von Vorträgen beim Digital Catapult und dem King’s Fund Anfang 2019 vorgestellt.
