KI trifft Entscheidungen – doch der Mensch bleibt in der Verantwortung

von Cornelia Görke und Lea Schleicher

Warum der Mensch im Zentrum des Entscheidens bleiben muss. Und wie ein Blick auf die Phasen eines Entscheidungsprozesses dabei Orientierung gibt.

‍Künstliche Intelligenz (KI) durchdringt viele Bereiche unseres Lebens – von der Medizin über die Wirtschaft bis hin zur Politik. Doch wie treffen wir fundierte Entscheidungen in einer Welt, in der KI längst nicht mehr nur unterstützt, sondern selbst zum Akteur wird?

Die Deutschen stehen KI skeptisch gegenüber. Das zeigt der TechnikRadar2026 der Deutschen Akademie der Technikwissenschaften. Demnach nutzt jeder Dritte der Befragten KI ohne Sorgen im Alltag, doch es stört 85 %, wenn KI ihnen Entscheidungen abnimmt. Eine pauschale Zurückhaltung gegenüber KI kann die Veränderungsfähigkeit von Organisationen schwächen oder ihre Entwicklung verlangsamen. Es braucht eine differenzierte Betrachtung entlang der einzelnen Phasen eines Entscheidungsprozesses.

KI kann Entscheidungen vorbereiten, Optionen bewerten und Muster erkennen, doch die finale Verantwortung für die Konsequenzen liegt beim Menschen. Das ist keine technische Frage, sondern eine Frage der Haltung. Es ist essenziell, dass Unternehmen und Entscheider:innen KI verantwortungsvoll einsetzen können, und dabei die Kontrolle nicht aus den Händen geben.
‍

KI als „stiller Entscheider“: Fluch oder Segen?

KI-Systeme wie Large Language Models (LLMs) oder prädiktive Analysetools agieren längst nicht mehr nur als Werkzeuge. Sie sind zu eigenständig handelnden Akteuren geworden – und das oft unsichtbar. Ein aktueller Fall zeigt die Tragweite: Ein KI-Agent ist in die Produktionsinfrastruktur von Hugging Face eingedrungen. Der Agent identifizierte und verkettete mehrere Schwachstellen eigenständig. Kein Mensch hat ihm die einzelnen Schritte vorgegeben: Die KI hat die Logik des Angriffs selbst entwickelt.    

Wir befinden uns heute auf dem Niveau der Annäherung an Artificial General Intelligence (AGI), also künstlicher Intelligenz, die in spezifischen Domänen wie Code-Analyse, Strategie und Planung das menschliche Leistungsniveau erreicht oder übertrifft. Der Schritt zur Artificial Superintelligence (ASI), einer KI, die den Menschen in nahezu jedem kognitiven Bereich überflügelt, ist nach Einschätzung führender Forscher nicht mehr fern.    

Bereits heute filtert künstliche Intelligenz Informationen, identifiziert Muster und reduziert kognitive Überlastung. Der entscheidende Unterschied liegt in der Art der Einbindung:    

• Automation: KI trifft Entscheidungen vollständig autonom (z. B. autonome Fahrzeuge).
• Augmentation: KI unterstützt menschliche Entscheidungen (z. B. Diagnoseunterstützung in der Medizin).

Beide Unterstützungsarten haben ein Risiko der mentalen Entmündigung: Wer sich vollumfänglich auf KI verlässt, kann die Fähigkeit einbüßen, selbstständig zu urteilen.  Automation kann darüber hinaus zu einem Verlust der Kontrolle führen, etwa wenn Algorithmen in Millisekunden Entscheidungen treffen, die Menschen nicht mehr nachvollziehen können.    

‍

Die Decisio® Map: 5 Schritte zu besseren Entscheidungen    

Stellen Sie sich folgenden Fall vor: Das Kerngeschäft eines mittelständischen Maschinenbau-Unternehmens stagniert.  Soll das Unternehmen parallel ein zweites Standbein aufbauen – oder riskiert es, seine Kernkompetenz zu verwässern? Die Geschäftsführung nutzt KI-gestützte Markt- und Ressourcenanalysen, um diese strategische Weichenstellung zu fundieren. Für eine gute Entscheidung im Zusammenspiel von KI und Mensch hilft es, alle Phasen eines Entscheidungsprozesses genauer zu beleuchten:    

Die Decisio® Map ist ein visueller Entscheidungsrahmen, der fünf zentrale Phasen des gesamten Entscheidungsprozesses abbildet – untermauert durch psychologische und soziologische Erkenntnisse. Sie hilft, Übergabe- und Vetopunkte sowie Feedbackschleifen, die zwischen Menschen und KI entstehen, bewusst zu steuern.    
‍

1. Quellgebiet: Daten und Kontext verstehen    

Bevor eine Entscheidung getroffen wird, muss der Rahmen geklärt sein. Im Beispiel des Maschinenbau-Unternehmens analysiert die KI auf Knopfdruck die letzten 15 Jahre der Marktentwicklung und identifiziert eine durchschnittliche jährliche Wachstumsrate von 9 % im neuen Geschäftsfeld. Allerdings zieht die KI zur Analyse Daten heran, die das relevante Kundensegment nicht hinreichend beleuchten.  Ergänzend wird eine qualitative Kundenbefragung initiiert, um Bedarfe und Motive zu beleuchten und um die Frage zu beantworten – Braucht es jetzt diese Wende?    

Im Quellgebiet wichtig sind:    

• Ziel: Was soll mit der Entscheidung erreicht werden und warum muss jetzt entschieden werden?
• Kontext: Welche externen Faktoren (z. B. Marktlage, ethische Rahmenbedingungen) beeinflussen die Entscheidung?
• Datenqualität: Sind die verwendeten Daten repräsentativ, aktuell und frei von Verzerrungen (Bias)?

KI-Systeme verändern die Datenlage und die Geschwindigkeit der Verarbeitung. Das hat direkten Einfluss auf diese Startphase im Quellgebiet. Sind die Daten, die in den Entscheidungsprozess einfließen, bekannt? Welchen Einflüssen oder Verzerrungen unterliegen sie? Woher stammen sie und werden öffentlich zugängliche Datensätze genutzt oder eigene Datenpools?    

‍

2. Land der Suche: Alternativen explorieren    

In dieser Phase geht es um die systematische Suche nach Optionen. Das Beispielunternehmen lässt durch KI drei Szenarien ausarbeiten: die Eigenentwicklung der Sensorik mit einem neuen Team, den Zukauf eines kleinen Sensor-Start-ups oder eine Kooperation mit einem Technologiepartner. Entscheidungen trotz wachsender Unsicherheit treffen zu können, ist das Gebot der Stunde und charakterisiert veränderungsfähige Organisationen. Handlungsmöglichkeiten, Szenarien sowie Optionen der Umsetzung inklusive risikominimierender Entscheidungspfade mit Hilfe von KI zu entwickeln, unterstützt dabei, rasch und trotzdem fundiert zu entscheiden.    

Zum Land der Suche gehören deshalb vor allem:    

• Brainstorming: Welche Handlungsmöglichkeiten gibt es?
• Risikoabwägung: Welche Konsequenzen haben die Alternativen, wie lassen sich Risiken auf dem Entscheidungspfad minimieren?
• Kreativität: Wie können innovative Lösungen aussehen?

Die „Black Box“ KI zu öffnen und Entscheidungsprozesse nachvollziehbar zu machen ist ein wichtiger Schritt. Dabei gilt es, nicht allein offensichtliche Optionen, sondern auch „unbequeme“ Pfade zu erkunden bzw. Nicht-Entscheidungen zu beleuchten. Menschliche Kreativität und Intuition zu nutzen, etwa für Prompts sowie weitere Innovationsprozesse macht den entscheidenden Unterschied im Ergebnis der zweiten Phase.    

‍3. Entscheidung und Beschluss: Die Wahl treffen    

In Phase 3 wird die eigentliche Entscheidung gefällt: Sie ist nur so gut wie die vorherigen Schritte. Die KI entwickelt ggf. Kriterien (mit vorgegebener Zielsetzung), bewertet dabei die Szenarien und empfiehlt eine Option.  Menschliche Intelligenz bewertet ebenfalls: Sie folgt der KI-Einschätzung oder geht einen anderen Weg.    

Der Beschluss ist geprägt von:    

• Verantwortung: Wer trägt die letzte Entscheidung? Welche Verantwortungsstruktur haben die jeweiligen Entscheidungen und das Unternehmen?
• Transparenz: Wie nachvollziehbar ist die Entscheidung für alle Betroffenen?
• Dokumentation: Warum wurde diese Option gewählt – und welche Alternativen wurden verworfen?

Entscheidungen sind soziale Konstruktionen, die schlagartig Realitäten verändern. Gleichzeitig bleiben die nicht gewählten Alternativen präsent – ein Grund, warum Entscheidungen oft retrospektiv umgedeutet werden („Hindsight Bias“ oder auch „Rückschaufehler“).    

Menschen bleiben verantwortlich für Entscheidungen – sie können nicht vollumfänglich an KI delegiert werden. Widerstand und Verweigerung von Verantwortungsübernahme können Begleiterscheinungen der aktuellen KI-Entwicklung sein. Umso wichtiger ist, KI dezidiert an Stellen einzusetzen, wo Risiken von Fehlentscheidungen minimiert werden können bzw. wo sie Entscheidungen verbessert. Mit den Erfahrungen, die das Maschinenbau-Unternehmen mit KI in Entscheidungsprozessen macht, wächst seine Fähigkeit exponentiell, sich konstruktiv mit Neuerungen und Unvorhergesehenem auseinander zu setzen sowie KI zu verbessern.    

‍4. Land der Umsetzung: Realisieren und Wirkung erzielen    

Nach der Entscheidung folgt die Phase der Umsetzung der Optionen, die in den vorigen Phasen bereits vorgedacht wurden. Die Umsetzungsphase kann durch KI überwacht werden: Im Beispiel erzielt die gewählte Option in den ersten 18 Monaten nur 60 % der geplanten Umsätze, die Kundenzufriedenheit der ersten Pilotkunden liegt allerdings bei 94 %. KI kann die Umsetzung begleiten, analysieren, sowie iterativ Maßnahmen vorschlagen. In der Phase der Umsetzung gilt:    

• Monitoring: KI und Mensch beobachten, ob die Veränderungen umgesetzt und die erwarteten Effekte erzielt werden.
• Anpassung: Es braucht einen iterativen Prozess mit entsprechenden Anpassungen der getroffenen Entscheidung.

Ein Risiko der Nutzung von KI bis zu dieser Phase besteht im Automation Bias, der Tendenz, KI-Empfehlungen blind zu folgen, selbst wenn sie fehlerhaft sind. Entscheider:innen müssen deshalb kritisch hinterfragen, ob die KI tatsächlich die beste Wahl getroffen hat.  Es gibt erste Hinweise, dass rein KI-gestützte Entscheidungen bei Menschen auf weniger Akzeptanz treffen und die Umsetzung von Handlungsstrategien damit insgesamt scheitern kann.    

‍

‍5. Feedback & Lessons Learned: Lernen aus der Entscheidung    

Der letzte Schritt ist essenziell für die Stärkung von Veränderungsfähigkeit – und wird doch am häufigsten vernachlässigt: Reflexion und Lessons Learned.    

In der Phase Feedback & Lessons Learned geht es vor allem um:    

• Reflexion: Was lief gut? Was hätte besser sein können?
• ‍Wissenstransfer: Wie können andere von dieser Entscheidung profitieren?
• Systematische Verbesserung: Welche Prozesse müssen angepasst werden? Wo kann KI verbessert werden?

In vielen Organisationen wird Scheitern tabuisiert – dabei ist es die wichtigste Quelle für Lernen. Eine Kultur, die Fehler als Lernchance begreift, ist essenziell für den verantwortungsvollen Umgang mit KI. Da die Datenverarbeitung mit KI eine höhere Geschwindigkeit hat, kann auch hier KI ein nützlicher Helfer bei Feedbackprozessen sein. Diese Phase des Entscheidungsprozesses kann sich auf die inhaltliche Fragestellung selbst beziehen und auf den Einsatz und die Qualität von KI.  

Ausblick: Die Zukunft des Entscheidens    

Die Decisio® Map zeigt: KI kann Entscheidungsprozesse beschleunigen, objektivieren und entlasten – sie ersetzt nicht die menschliche Verantwortung. Entscheidend ist, KI nicht als Ersatz, sondern als Verstärker menschlicher Intelligenz zu begreifen.    

Wichtige Prinzipien beim Einsatz von KI im Entscheidungsprozess:    

1. Transparenz: KI-Entscheidungen müssen nachvollziehbar sein.
2. Kritische Reflexion: Menschliche Urteilsfähigkeit und eine hochwertige Datenbasis bleiben weiterhin unverzichtbar.
3. Regulatorische Rahmenbedingungen: Gesetze wie der EU AI Act setzen Grenzen für Hochrisiko-KI – doch Unternehmen müssen interne Richtlinien wie z.B. Zweckbindung, Datenschutz und Verantwortungsarchitektur entwickeln.
4. Stetige Weiterentwicklung angewendeter KI-Tools: Eine hohe Anpassungsgeschwindigkeit ist notwendig, da das KI-Tool von heute schon nach wenigen Wochen veraltet sein kann.
5. Kultureller Wandel: Eine Kultur, die Fehler zulässt und daraus lernt, ist die Basis für verantwortungsvolle KI-Nutzung.

Wer die Chancen und Risiken von KI entlang der Phasen eines Entscheidungsprozesses differenziert bewertet und ihren Einsatz nicht pauschal ablehnt, stärkt die Veränderungsfähigkeit einer Organisation und damit auch ihre Zukunftsfähigkeit.    

‍

Wie bewerten Sie den Einsatz von KI in Ihrem Unternehmen? Nutzen Sie bereits strukturierte Entscheidungsrahmen wie die Decisio®Map – oder setzen Sie auf andere Methoden?    

Sie wünschen mehr Information zum Thema? Sprechen Sie uns einfach an: Cornelia Görke (cg@management-partner.com) und Lea Schleicher (lsc@management-partner.com). Wir freuen uns!    

Management Partner ist die richtige Beratung für alle, die sich anspruchsvolle Ziele setzen. Dabei entdecken wir Chancen, die versteckt geblieben sind, und Lösungen, die vorher nicht vorstellbar waren. Gemeinsam mit Ihnen gelingt es uns, Ihr Unternehmen spürbar — und messbar — zum Besseren zu verändern. Wir helfen, Ihre Veränderungsfähigkeit zu entwickeln — und zu behalten. Auch wenn unser Auftrag irgendwann endet — Ihre Veränderungsfähigkeit bleibt.
‍

Keep the Change

‍

 Quellen:    

Decisio®-Landkarten sind Teil des Pentaeder-Prinzips nach Bernd Opp und Othmar Sutrich. Idee Helga Schubert, Kreation Frank Hargina, Version 6.0, © 2020 NEXT IMPACT GmbH    

Hugging Face: https://huggingface.co/blog/security-incident-july-2026    

Stanford AI Index Report: https://hai.stanford.edu/ai-index    

Technik Radar: https://www.acatech.de/publikation/technikradar-2026    

Bender, E. M., Gebru, T., McMillan-Major, A., & Mitchell, M. (2021). „On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?“ FAccT '21.    

Davenport, T. H., & Kirby, J. (2015). „Beyond Automation.“ Harvard Business Review.    

Fischhoff, B. (1975). „Hindsight ≠ Foresight: The Effect of Outcome Knowledge on Judgment Under Uncertainty." Journal of Experimental Psychology: Human Perception and Performance, 1(3), 288–299.    

‍

‍

‍

‍