Beinahe täglich werden neue KI-Features gelauncht. Claude kann jetzt dies, ChatGPT kann jetzt jenes. Unternehmen starten Pilotprojekte, testen Agenten, automatisieren Aufgaben oder ganze Prozesse. Und dennoch bleibt bei den meisten die große Frage offen: Warum skaliert das nicht?
In diesem Post diskutieren wir die Idee, dass die Antwort nicht in der Technologie liegt, sondern in der Organisation, die sie einsetzt.
TL;DR:
41 Prozent der deutschen Unternehmen nutzen KI – doppelt so viele wie vor einem Jahr. Gleichzeitig stecken zwei Drittel aller Organisationen im Experimentiermodus fest, ohne je über Pilotprojekte hinauszukommen. Die Technik ist nicht der Grund. Im Gegenteil: Es fehlt nicht an Tools. Was fehlt, ist die Bereitschaft, KI als organisatorische Aufgabe zu verstehen, nicht als technisches Projekt. Die Unternehmen, die den größten Nutzen aus KI ziehen, tun deshalb etwas grundlegend anderes: Sie beschaffen nicht noch mehr Tools, sondern verändern zuerst ihre Organisation.
Warum führen viele KI-Pilotprojekte in eine Sackgasse?
Wer sich mit KI im Unternehmenskontext beschäftigt, kennt das typische Einstiegsszenario: Alle sprechen über KI. Die IT-Abteilung bekommt den Auftrag, „etwas mit KI zu machen“. Das erste KI-Pilotprojekt erblickt das Licht der Welt. Vielleicht ein Chatbot für den Kundenservice oder als Unterstützung bei der Angebotserstellung. Die ersten Ergebnisse sind vielversprechend. Anpassungen werden vorgenommen. Doch dann stagniert plötzlich alles.
Das Pilotprojekt bleibt ein Pilotprojekt. Vielleicht auch deshalb, weil ein Use Case ausgewählt wurde, der per se nicht besonders skalierungsfähig ist. Ein halbes Jahr später kommen dann die unangenehmen Fragen. Danach, was eigentlich aus dem KI-Projekt geworden ist und wie es um dessen ROI steht.
Dieses Muster ist kein Einzelfall. Die Bitkom-Studie 2026 zeigt die Dynamik in Zahlen: 41 Prozent der deutschen Unternehmen setzen inzwischen KI ein – mehr als doppelt so viele wie im Vorjahr. Da klingt es paradox, wenn ein weiteres Ergebnis der Studie ist, dass sich gleichzeitig 62 Prozent der bereits KI-nutzenden Unternehmen selbst als Nachzügler einordnen [1]. Woher kommt der Widerspruch? Daher, dass die Vorgehensweise vom Ende her umgesetzt wird?
Die globalen Zahlen bestätigen das Bild. McKinseys State of AI Report 2025 – eine Befragung von knapp 2000 Organisationen in über 100 Ländern – zeigt: 88 Prozent aller Unternehmen nutzen KI in mindestens einer Funktion. Aber nur etwa ein Drittel hat es geschafft, KI über einzelne Experimente oder Piloten hinaus zu skalieren [2]. Zwei Drittel stecken in dem, was in der Fachliteratur als „Pilot Purgatory“ bezeichnet wird: dem Fegefeuer der Pilotprojekte.
Gartner prognostiziert, dass bis Ende 2026 rund 60 Prozent aller KI-Projekte aufgegeben werden, denen die nötigen Voraussetzungen fehlen – sei es eine geeignete Datengrundlage, ein klar definierter und wertschöpfender Anwendungsfall oder beides [3]. Auch KI-Agentensysteme, also KI, die eigenständig mehrstufige Aufgaben ausführen kann, sind davon betroffen: Über 40 Prozent dieser Projekte werden laut Gartner bis Ende 2027 eingestellt [4].
Die Frage, die aus unserer Sicht primär zu klären ist: Warum scheitern so viele Pilotprojekte, obwohl die Technologie nachweislich funktioniert?
Die meisten Unternehmen haben bereits erste KI-Erfahrungen gesammelt. Sie haben Tools getestet, Prompts ausprobiert und vielleicht sogar den einen oder anderen Prozess automatisiert. Was fehlt und weshalb die unternehmensweite KI-Skalierung stockt: ein Plan, wie KI von isolierten Experimenten zu einer organisationsweit verfügbaren Ressource und Fähigkeit wird.
Warum verändern Werkzeuge allein nichts?
In unserer Beratungsarbeit beobachten wir ein wiederkehrendes Muster. Die meisten Unternehmen haben bereits erste KI-Erfahrungen gesammelt. Sie haben Tools getestet, Prompts ausprobiert und vielleicht sogar den einen oder anderen Prozess automatisiert. Was fehlt und weshalb die unternehmensweite KI-Skalierung stockt: ein Plan, wie KI von isolierten Experimenten zu einer organisationsweit verfügbaren Ressource und Fähigkeit wird.
Um es ganz konkret zu machen: Ich habe diese Erfahrung selbst gemacht. Als ich damit begann, KI systematisch in meine Arbeitsabläufe zu integrieren, stieg meine persönliche Produktivität spürbar an. Bessere erste Entwürfe, schnellere Recherchen mit differenzierteren Ergebnissen, klarere Strukturen.
Mein Unternehmen hat davon zunächst nicht wirklich profitiert. Denn das Wissen,
- wie KI sinnvoll und wertschöpfend eingesetzt werden kann,
- welche Prompts funktionieren,
- welches Kontextwissen für die KI erforderlich ist, damit diese die Aufgaben auch sicher lösen kann, und
- wie die Ergebnisse der KI letztlich durch Menschen überprüft werden müssen
war in meinem Kopf und musste zunächst für das gesamte Team übersetzt und bereitgestellt werden.
Das ist ein vergleichbares Muster, das wir auch in Unternehmen wiederfinden, die wir beraten: Eine Person eignet sich – oft aus persönlicher Motivation – KI-Kompetenz an. Die Skalierungsherausforderung wird aber erst dann überwunden, wenn zwei Aspekte in ein gutes Gleichgewicht gebracht werden:
- „KI-Einzelkämpfer“ allein sind nicht die Lösung. Das verlagert den oft entstehenden Flaschenhals an eine andere Stelle. Wenn eine Person im Team mit einer KI plötzlich enormen Output produziert, dann müssen auch alle vor- und nachgelagerten Instanzen entsprechend auf diesen Output reagieren können. Zumindest die entsprechenden Teams, besser noch die ganze Organisation, muss weiterentwickelt werden.
- Ein erster Use Case ist ein guter Ausgangspunkt, reicht aber nicht aus, um KI im Unternehmen zu verstetigen und über einen isolierten Anwendungsfall hinaus zu transportieren. Der eigentliche Hebel liegt darin, die “Imagination Gap” zu schließen – also systematisch alle Prozesse im Unternehmen auf den Prüfstand zu stellen und die wertschöpfenden Anwendungsfälle zu identifizieren, bei denen KI ihre Hebelwirkung entfalten kann. Diese Gelegenheit lässt sich gleichzeitig nutzen, um Prozesse zu eliminieren, die keinen wirklichen Wertschöpfungsbeitrag leisten.
- Wie relevant dies ist, untermauert der Section AI-Proficiency Report aus dem Januar 2026: 85 Prozent aller Wissensarbeitenden sehen keinen wertschöpfenden KI-Anwendungsfall in ihrer täglichen Arbeit [5]. Nicht weil die Tools fehlen. Sondern weil die Vorstellungskraft fehlt, wie KI in ihren konkreten Prozessen einen Unterschied machen könnte.
Warum ist die Neugestaltung von Workflows der entscheidende Hebel?
McKinseys State of AI Report 2025 enthält eine zentrale Erkenntnis: Von 25 untersuchten Attributen hat eines den mit Abstand größten Einfluss darauf, ob ein Unternehmen durch KI tatsächlich wirtschaftlichen Nutzen erzielt: die Bereitschaft zur grundlegenden Neugestaltung von Arbeitsabläufen [2].
Nicht die Wahl des KI-Modells. Nicht die Höhe des Budgets. Nicht die Größe der Datenbasis und die Datenqualität. Vielmehr die Frage, ob eine Organisation bereit war, ihre Prozesse grundlegend zu überdenken und anzupassen, bevor sie KI eingeführt hat.
Die Studie liefert dazu eindeutige Zahlen. Die Organisationen, die McKinsey als „High Performer“ klassifiziert, unterscheiden sich in einem zentralen Punkt von allen anderen: Sie sind dreimal so häufig bereit, ihre Arbeitsabläufe grundlegend umzugestalten [2].
Und hier liegt der Perspektivwechsel, der den Unterschied macht. In unserem Artikel über Datenqualität und KI haben wir eine Unterscheidung eingeführt, die wir für grundlegend halten: faster versus further.
Beschleunigen (faster): „Wir haben einen Prozess. Jetzt fügen wir KI hinzu.“ Das klingt vernünftig und risikoarm. In der Praxis bedeutet es, dass bestehende Abläufe unverändert bleiben und KI lediglich als Beschleuniger aufgesetzt wird. Der Kundenservice-Chatbot antwortet schneller – aber die dahinterliegenden Prozesse bleiben die gleichen. Das Angebotswesen nutzt KI-generierte Texte – aber der Freigabeprozess mit seinen sechs Unterschriften ändert sich nicht. KI ist darauf reduziert, den Status quo zu beschleunigen.
Optimieren (further): „Wir haben ein Ziel. Wie würden wir den Prozess gestalten, wenn KI von Anfang an eingeplant wäre?“ Das erfordert mehr Aufwand am Anfang. Es bedeutet, bestehende Abläufe zu hinterfragen, Verantwortlichkeiten neu zu definieren und Arbeitsweisen zu verändern. Aber es ist der Ansatz, der die Organisation tatsächlich weiterbringt – weil er nicht den Status quo beschleunigt, sondern den Status quo selbst infrage stellt.
Schneller ist, bestehende Prozesse mit KI zu beschleunigen. Weiter kommt, wer die Prozesse selbst neu denkt.
Was macht eine KI-fähige Organisation aus?
Gartner beschreibt ein Modell mit vier aufeinander aufbauenden Ebenen: Orchestrierung, Architektur, Befähigung und Verantwortung [6].
Orchestrierung: Welche Anwendungsfälle priorisieren wir? Wie entscheiden wir, ob wir kaufen oder selbst bauen? Mit welchem Prozess pilotieren wir – und vor allem: mit welchem skalieren wir?
Architektur: Wie sehen unsere Daten aus? Sind sie für KI nutzbar? Wie bauen wir eine technische Grundlage, die über einzelne Tools hinaus funktioniert?
Befähigung: Können unsere Mitarbeitenden mit KI arbeiten? Verstehen sie, wo KI unterstützen kann und wo nicht? Existiert eine Zusammenarbeit zwischen Mensch und KI, die über „ich tippe einen Prompt ein“ hinausgeht?
Verantwortung: Wer entscheidet, wo KI eingesetzt wird? Wie gehen wir mit Fehlern um? Wie stellen wir sicher, dass KI-Entscheidungen nachvollziehbar bleiben?
Was daran auffällt: Kein einziger dieser vier Bereiche lässt sich durch die Installation eines neuen KI-Tools erledigen, denn alle vier sind letztlich organisatorische Aufgaben.
Übersetzen wir das in die Mittelstandsrealität. Ein Unternehmen mit 120 Mitarbeitenden wird kein spezialisiertes Team aufbauen, das KI-Modelle technisch betreibt und überwacht. Das muss es auch nicht. Aber es muss sich fragen: Sind unsere Prozesse so dokumentiert, dass KI damit arbeiten kann? Wissen unsere Führungskräfte, wie man KI-Ergebnisse einordnet? Gibt es klare Zuständigkeiten dafür, welche Entscheidungen KI vorbereiten darf – und welche nicht?
Das sind keine technischen Fragen. Es sind Organisationsfragen. Und genau deshalb scheitern so viele KI-Projekte: Sie werden als IT-Projekte gestartet, obwohl sie Organisationsprojekte sind.
Wo steht der Mittelstand?
Die Daten zeichnen ein geteiltes Bild. Eine Untersuchung der Hochschule Karlsruhe zeigt: Nur 21 Prozent aller mittelständischen Unternehmen verfügen über eine formale KI-Strategie. Und von denjenigen, die KI bereits aktiv nutzen, arbeiten 64 Prozent ohne jede Strategie [7]. Die verschiedenen Bezugsgrößen machen die Lage nur deutlicher: Selbst unter den KI-Anwendern ist strategisches Vorgehen die Ausnahme.
Die Bitkom-Studie 2026 ergänzt: 77 Prozent der KI-nutzenden Unternehmen berichten von einer verbesserten Wettbewerbsposition, 52 Prozent sehen einen messbaren Beitrag zum Unternehmenserfolg [1]. Das zeigt die Zweiteilung: Unternehmen, die KI strategisch angehen, erzielen Ergebnisse und Wertschöpfung. Unternehmen, die experimentieren, erzeugen primär Aufwand. Die vom IW Köln erhobene Zahl, dass 62,7 Prozent der befragten Unternehmen den schwer einzuschätzenden Nutzen von KI als größtes Hemmnis nennen [8], bestätigt: Wo die strategische Einbettung fehlt, fehlt auch die Sichtbarkeit des Nutzens.
Wie sieht der Weg vom Experiment zur KI-Organisation aus?
Auf unserer Website beschreiben wir diesen Weg als KI-Transformationsreise – fünf Phasen, die Unternehmen typischerweise durchlaufen, vom ungeplanten Experimentieren bis zur strategischen KI-Organisation. Der zentrale Gedanke: KI-Reife ist kein binärer Zustand. Ein Unternehmen ist nicht entweder „KI-bereit“ oder „nicht bereit“. Es befindet sich immer auf einer Stufe der Entwicklung – und jede Phase hat ihre eigenen Herausforderungen, ihren eigenen ROI und ihre eigenen Change-Management-Anforderungen.
In Phase 1 – dem „Wilden Westen“ – werden verschiedene KI-Tools ohne strategische Ausrichtung getestet. Es gibt keine klare Erfolgsmessung und keine Koordination. Der ROI ist in dieser Phase typischerweise negativ. Viele Unternehmen verharren hier und verwechseln Aktivität mit Fortschritt.
Phase 2 – „Copilot gekauft, Problem nicht gelöst“ – beschreibt den Moment, in dem Software-Lizenzen beschafft werden, aber ohne Change-Management oder systematische Einführung. Tools werden sporadisch genutzt. Die Investition steht, der Nutzen bleibt überschaubar.
Der Wendepunkt kommt in Phase 3, wenn Führungskräfte beginnen, KI nicht als Spielzeug, sondern als strategischen Sparringspartner zu nutzen. Erste systematische Workflows entstehen. KI wird in konkrete Entscheidungsprozesse eingebunden. Hier beginnt der ROI, die Investition zu rechtfertigen.
In Phase 4 wird KI zur Teamfähigkeit. Geteilte Workflows, standardisierte Prompts, teamübergreifende KI-Strategien – das ist der Multiplayer-Modus, in dem die Organisation als Ganzes KI-fähig wird.
Phase 5 – „Human-led, Agent-operated“ – beschreibt das Zielbild einer KI-nativen Organisation, in der Menschen sich auf Strategie und Führung konzentrieren, während KI-Agenten operative Aufgaben übernehmen.
Was diese Phasenlogik deutlich macht: Die meisten Unternehmen, die KI-Projekte starten und scheitern, springen direkt von Phase 1 zu Phase 4 oder 5.
Sie kaufen Agenten-Lizenzen oder bauen Automatisierungen auf, ohne die Phasen 2 und 3 durchlaufen zu haben – ohne also ihre Führungskräfte befähigt, ihre Prozesse dokumentiert und ihr Wissen expliziert zu haben. Und genau das ist der Grund, warum die Skalierung scheitert.
Hier treffen sich die McKinsey-Erkenntnisse und die Mittelstandsrealität. Die High Performer sind nicht diejenigen mit den besten KI-Tools. Es sind diejenigen, die ihre Organisation Phase für Phase weiterentwickelt haben. Die Führungskräfte eingebunden haben. Die Prozesse neu gedacht haben. Die KI nicht als Experiment behandelt haben, sondern als strategische Fähigkeit. McKinseys Analyse zeigt: High Performer sind 3,6-mal häufiger bereit, KI für transformative Veränderungen einzusetzen – nicht nur für Effizienzgewinne. Und sie haben dreimal so häufig Führungskräfte, die KI aktiv vorantreiben und selbst nutzen [2].
Was bedeutet das konkret für Ihr Unternehmen?
Für Unternehmen, die gerade am Anfang stehen, bedeutet das: Der erste Schritt ist nicht die Toolauswahl. Der erste Schritt ist die ehrliche Bestandsaufnahme. Wo stehen unsere Prozesse? Welches Wissen existiert nur in den Köpfen einzelner Mitarbeitender? Wo liegt das größte Potenzial – nicht für KI-Einsatz, sondern für Wertschöpfung?
Für Unternehmen, die bereits KI-Erfahrung gesammelt haben und merken, dass die Ergebnisse nicht wie gewünscht skalieren: Das Problem liegt wahrscheinlich nicht an der Technologie. Es liegt an fehlenden Prozessbeschreibungen, an einer Führungsebene, die KI delegiert statt vorlebt, an einer Belegschaft, die keine Vorstellung davon hat, wie KI ihren konkreten Arbeitsalltag verändern könnte.
In beiden Fällen beginnt der nächste Schritt nicht mit einer Software-Entscheidung. Er beginnt mit einer organisatorischen: Wollen wir KI als Werkzeug behandeln oder als Fähigkeit aufbauen?
Fazit: Die Organisation ist das Produkt
Die KI-Debatte im Mittelstand kreist häufig um die falsche Frage. Nicht „Welches KI-Tool benötigen wir?“ sollte am Anfang stehen. Sondern: „Welche Organisation benötigen wir, um bereit für die sinnvolle Nutzung von KI zu sein?“
Die Antwort darauf erfordert keine Millionenbudgets und keine eigene KI-Abteilung. Sie erfordert die Bereitschaft, Prozesse zu dokumentieren, Wissen zu explizieren, Führungskräfte zu befähigen und Arbeitsabläufe zu überdenken. Nicht alles gleichzeitig. Nicht perfekt. Aber systematisch.
Die Organisationen, die in den nächsten Jahren den größten Nutzen aus KI ziehen werden, sind nicht diejenigen mit den meisten KI-Tools. Es sind diejenigen, die aufgehört haben, KI-Experimente zu starten – und angefangen haben, KI-Organisationen aufzubauen.
Quellenverzeichnis / References
[3] Gartner: „Lack of AI-Ready Data Puts AI Projects at Risk“, Pressemitteilung, Februar 2025.
[6] Gartner: „10 Best Practices for Scaling GenAI“ (2025) und „The AI Future of Leadership and Management“ (2026). Grafiken veröffentlicht über Gartner IT auf LinkedIn. Vollständige Studien verfügbar über Gartner-Abonnement.
[7] Hochschule Karlsruhe: Untersuchung zur KI-Nutzung im deutschen Mittelstand, 2025. Zitiert in: EvarLink, „KI im Mittelstand: Praktische Einsatzfelder jenseits des Hypes“.
Sie möchten KI in Ihrem Unternehmen einsetzen und haben Fragen zur KI-Implementierung?
Gerne analysieren wir mit Ihnen in einem ersten unverbindlichen Strategiegespräch, wie der Einsatz von KI in Ihrem Unternehmen aussehen könnte und was dabei zu beachten ist.
