Hybrid Intelligence in der Supply Chain: Warum Mensch und Maschine in der Logistik ein unschlagbares Team sind

Die moderne FMCG-Logistik steht vor bisher unbekannten Herausforderungen. Auf der einen Seite sind Unternehmen gezwungen durch eine zunehmende Volatilität auf dem Markt und einer, bisher unerreichten, Menge an Daten mehr zu automatisieren. Auf der anderen Seite gibt es in der Praxis, wie wir sie auch täglich mit unseren Kunden erleben, eine tiefe Skepsis gegenüber automatisierten Systemen. Langjährige Disponenten befürchten einen Kontrollverlust beim Einsatz eines Systems, welches zu großen Teilen eine Blackbox ist, also Input und Output bekannt sind, die exakte Gewichtung und Verarbeitung dazwischen jedoch in Teilen unbekannt. Dadurch resultiert ein so genanntes „Sicherheits-Paradoxon“: Trotz der Möglichkeit moderne Systeme in der Planung einzusetzen, werden diese regelmäßig manuell ausgehebelt, was Effizienzgewinne verhindert. 

Dieses Vertrauensproblem kann jedoch gelöst werden, nicht notwendigerweise durch mehr Technologie, sondern eine differenziertere Betrachtungsweise: Der Hybrid Intelligence. Dieser hoch aktuelle Ansatz, welcher derzeit noch in weltweit führenden Konferenzen für Informationssysteme und Operations-Research diskutiert wird, sieht KI nicht als Ersatz für Menschen, sondern als Werkzeug zur kognitiven Erweiterung. In diesem Beitrag wird beschrieben, welche Fundamente diesem Konzept zu Grunde liegen und wie wir in unserer Unternehmenspraxis damit umgehen. 

Das Konzept von Hybrid Intelligence 

Als Hybrid Intelligence bezeichnet man die zielgerichtete Zusammenarbeit von Menschen und KI-Systemen, um Ergebnisse zu erzielen, die keine der beiden Akteure für sich erzielen könnte. Die Abgrenzung zur reinen Automatisierung liegt hierbei im Fokus auf die Komplementarität und nicht auf der größtmöglichen Einsparung von manuellem Eingriff. Während Automatisierung also darauf ausgelegt ist, möglichst alles selbst zu machen, geht das Konzept von Hybrid Intelligence davon aus, dass manche Dinge durch eine reine Automatisierung nicht ihr volles Potenzial ausschöpfen können. 

Das Prinzip der Komplementarität 

Den Begriff prägten Dominik Dellermann und seine Koautoren 2019 in ihrer Arbeit Hybrid Intelligence. Ihr Kerngedanke ist die Komplementarität: Mensch und Maschine bringen unterschiedliche Fähigkeiten ein, und gemeinsam entsteht ein Ergebnis, das keine der beiden Seiten allein erreicht. Algorithmen sind unschlagbar, wenn es um die Verarbeitung großer, mehrdimensionaler Datensätze und die Erkennung schwacher statistischer Signale geht. Menschen verstehen dagegen soziale Zusammenhänge, unvorhergesehene Ereignisse und kurzfristige Änderungen in Kundenbeziehungen, die in keinem Datensatz stehen. Ein Beispiel: Eine KI erkennt den Zusammenhang zwischen Temperatur und Absatz eines Artikels, besonders in der Getränkebranche oder im Eisgeschäft. Ein erfahrener Mitarbeiter weiß dagegen, dass eine Baustelle vor der eigenen Filiale den Umsatz am kommenden Wochenende verringert. Hybrid Intelligence führt beide Wissensquellen zusammen.

Der Unterschied zwischen „Human-in-the-Loop“ und „Human-on-the-Loop“ 

In der Forschung wird zwischen zwei Interaktions-Modellen unterschieden: 

1. Human-in-the-Loop (HITL): Der Mensch greift aktiv in jeden Entscheidungsprozess ein. Dies ist zum Beispiel bei hochgradig unsicheren Prognosen oder strategischen Sonderfällen notwendig. 

2. Human-on-the-Loop (HOTL): Die KI trifft Entscheidungen autonom innerhalb definierter Rahmenbedingungen (z.B. für C-Artikel, die weniger heikel sind), während der Mensch den Prozess überwacht und nur bei Abweichungen interveniert (sogenanntes Management by Exception). 

Warum wir der Blackbox misstrauen 

Im Gespräch mit unseren Kunden sehen wir oft eine gewisse Skepsis gegenüber KI-Systemen. In der Forschung hat dieses Misstrauen einen Namen: „Algorithm Aversion“. 

„Algorithm Aversion“ und der Anspruch für Transparenz 

Dietvorst, Simmons und Massey zeigten 2015, dass Menschen das Vertrauen in einen Algorithmus schneller verlieren als in einen menschlichen Kollegen, wenn ein Fehler auftritt. Die Studie erschien im Journal of Experimental Psychology: General. So wird ein falscher Vorschlag eines KI-Systems häufig als Versagen des Systems gewertet und führt zurück zur vermeintlich sicheren, weil gewohnten Excelliste. Im Konzept der Hybrid Intelligence antwortet darauf die erklärbare KI: Legt das System die Gründe für eine Empfehlung offen, wird sie überprüfbar. Dabei weist das System beispielsweise aus, dass eine Vorhersage zu 30 Prozent auf Wetterdaten und zu 70 Prozent auf kommenden Aktionen beruht.

Bei Circly haben wir aus genau diesem Grund das so genannte Explainability-Modul entwickelt. Es kommen unter anderem die so genannten SHAP Values zum Einsatz, welche Nutzern Feedback über die im aktuellen Fall angewandten Gewichtungen der Einflussgrößen gibt. 

SHAP Values als Lösung für das Blackbox-Problem 

Um eine KI-generierte Vorhersage transparenter zu machen, empfiehlt sich der Einsatz so genannter „Shapley Additive Explanations“ oder kurz SHAP-Werte. Sie gehen auf den Shapley-Wert zurück, den Lloyd S. Shapley 1953 in der kooperativen Spieltheorie einführte, um den Beitrag einzelner Beteiligter an einem gemeinsamen Ergebnis fair aufzuteilen. Scott Lundberg und Su-In Lee übertrugen dieses Prinzip 2017 auf maschinelle Lernverfahren. In der Praxis der Disposition bedeutet das, dass die KI nicht nur eine einzelne Zahl als Bestellvorschlag liefert, sondern auch ausweist, welchen Anteil die jeweiligen Einflussgrößen an der Vorhersage haben. Diese Features erhöhen oder senken den Prognosewert und geben damit Einblick in seine Zusammensetzung.

Lundberg und Lee zeigten 2017 in A Unified Approach to Interpreting Model Predictions, dass sich der Beitrag einzelner Merkmale zu einer Vorhersage konsistent zerlegen lässt. Für die Disposition heißt das: Die Entscheidung des Algorithmus lässt sich mit der eigenen Einschätzung und mit realen Marktereignissen abgleichen, statt sie hinnehmen zu müssen.

SHAP hat sich seitdem als eines der verbreitetsten Verfahren der erklärbaren KI etabliert. Lundberg und weitere Autoren haben es 2020 in Nature Machine Intelligence für baumbasierte Modelle weiterentwickelt, wie sie in der Absatzprognose häufig zum Einsatz kommen.

Was das im Alltag der Disposition bewirkt, zeigt sich am Umgang mit Fehlern. Liegt eine Prognose daneben, erlaubt eine offengelegte Gewichtung die Frage, woran es lag: an einem falsch hinterlegten Stammdatum wie einer veralteten Wiederbeschaffungszeit, an einem Ereignis, das in keinem Datensatz stand, oder an einem Modell, das ein Muster überbewertet hat. Diese Unterscheidung trennt die Schuldfrage vom Lernzyklus. Ohne sie bleibt nach jeder Fehlprognose nur der Eindruck, dass das System nicht funktioniert, und der Disponent kehrt zur Tabelle zurück.

Vorteil in der Praxis: Wo Hybrid Intelligence Excel schlägt 

Bisher war das Bauchgefühl eines erfahrenen Mitarbeiters ausreichend für eine Prognose, die genau genug ist. Inzwischen verhindert die so genannte kognitive Überlastung präzise Vorhersagen auf Basis der bloßen Erfahrung. 

Das Problem mit der Mehrdimensionalität 

Moderne FMCG-Forecasts müssen teils tausende Artikel über zahlreiche Standorte hinweg vorhersagen, unter Berücksichtigung von Feiertagskonstellationen, Wetter, Aktionen und Preisen. Die Zahl der gleichzeitig zu gewichtenden Einflussgrößen übersteigt dabei, was sich im Kopf abwägen lässt. Für diese Rechenarbeit sind KI-Systeme besser geeignet. Im hybriden Ansatz übernimmt der Mensch die Rolle des Filters, der die Ergebnisse auf Plausibilität prüft. Erfahrung ist hier der Maßstab, an dem sich ein Vorschlag messen lassen muss.

Verzögerungen in der Entscheidung als wichtiger Faktor 

In der Praxis der Planung mit Tabellenkalkulationsprogrammen vergehen zwischen der Erfassung von Daten und der Bestellung oft Tage. Währenddessen kann sich die Marktlage bereits mehrmals geändert haben. Mit dem Ansatz von Hybrid Intelligence können Unternehmen theoretisch in Echtzeit reagieren. Während Daten vom System in Echtzeit aufbereitet werden, muss der menschliche Mitarbeiter sich lediglich um die Freigabe kümmern. Dies nimmt dem Menschen den aufwändigsten und langwierigsten Teil des Prognoseprozesses ab und ermöglicht den Fokus auf den kritischen Teil. Zudem steigt die Iterationsgeschwindigkeit um ein Vielfaches, da manuelles Erfassen von Daten erspart bleibt. 

Wie Hybrid Intelligence strategisch implementiert werden kann 

Eine der ersten Herausforderung bei der Implementierung von Hybrid Intelligence ist die Transformation eines, wie man in Österreich sagt „gesund skeptischen“ Teams in ein Hybrid-Team. Dafür gibt es einen dreistufigen Ansatz: 

1. Transparenz schafft Vertrauen: Implementieren Sie Dashboards, die nicht lediglich Zahlen zeigen, sondern auch deren Zusammenhang visualisieren. Wenn für Disponenten ersichtlich ist, dass eine Prognose einem Peak bei der Nachfrage vorhersieht, der mit einem Feature wie Ferienbeginn korreliert, steigert das die Akzeptanz. Auch SHAP Values, wie wir sie in unserem System im Einsatz haben, fallen in diese Kategorie 

2. Management by Exception: Verwenden Sie ein mehrschichtiges System: Zum Beispiel kann die KI für stabile Standard-Artikel autonom entscheiden (z.B. Alle A-Artikel, die oft risikolos sind). Z-Artikel hingegen, sollten in der freiwerdenden Zeit vom Disponenten analysiert werden. Diese erfordern oft stark kontextbezogenes Denken, für welches meist keine Datenbasis vorliegt. 

3. Fehler attribuieren statt Schuld suchen: Achten Sie darauf, dass ihr System nachträglich auditierbar ist. Sollte eine Prognose daneben liegen, analysieren Sie sowohl Mensch als auch Maschine. Finden Sie heraus, ob ein unsauberer Datenpunkt im ERP die Ursache war, ein unvorhersehbares Ereignis oder fehlende Informationen. Mit diesem Ansatz können Systeme iterativ verbessert werden. Aus dem Fehler wird eine Chance. 

Fazit: Mensch und Maschine statt Mensch oder Maschine 

Gewinner der digitalen Transformation werden nicht jene Unternehmen sein, die Menschen durch Maschinen ersetzen, sondern jene, die eine funktionierende Zusammenarbeit zwischen beiden etablieren. Hybrid Intelligence ist die Antwort auf steigende Komplexität und auf das berechtigte Kontrollbedürfnis der Mitarbeiter. Wer den Stress mit Excel beenden will, ohne die Kontrolle abzugeben, geht diesen Weg.

Weiterführende Quellen 

1. Dellermann, D., Ebel, P., Söllner, M. & Leimeister, J. M. (2019): Hybrid Intelligence, Business & Information Systems Engineering 61(5)

2. Dietvorst, B. J., Simmons, J. P. & Massey, C. (2015): Algorithm Aversion: People Erroneously Avoid Algorithms After Seeing Them Err, Journal of Experimental Psychology: General 144(1)

3. Lundberg, S. M. & Lee, S.-I. (2017): A Unified Approach to Interpreting Model Predictions, Advances in Neural Information Processing Systems 30

4. Lundberg, S. M., Erion, G., Chen, H. et al. (2020): From Local Explanations to Global Understanding with Explainable AI for Trees, Nature Machine Intelligence 2(1)

5. Adadi, A. & Berrada, M. (2018): Peeking Inside the Black-Box: A Survey on Explainable Artificial Intelligence (XAI), IEEE Access 6

FAQs