Wenn Großunternehmen ihre KI-Strategien justieren, lohnt sich ein genauer Blick aus der Mittelstandsperspektive. Nicht, weil der Mittelstand diese Ansätze 1:1 kopieren sollte, sondern weil die Engpässe, auf die Konzerne gerade stoßen, denen im Mittelstand zumindest strukturell gleichen. Dieser Beitrag ordnet aktuelle Beobachtungen aus der Enterprise-Welt ein, übersetzt sie in die Realität mittelständischer Unternehmen und stellt mit der KI-Transformationsmatrix ein Diagnose-Werkzeug vor, das sichtbar macht, worauf es in welcher Phase konkret ankommt.
TL;DR:
Die KI-Engpässe, die Großunternehmen gerade identifizieren – fehlendes Change Management, fragmentierte Systeme, unklare Use-Cases – existieren im Mittelstand bereits. Der Unterschied liegt nicht im Timing, sondern in der Sichtbarkeit: Konzerne haben KI-Verantwortliche und Strategieabteilungen, die Engpässe benennen und bearbeiten. Dem Mittelstand fehlt oft der Rahmen dafür. Die KI-Transformationsmatrix verbindet fünf Phasen der KI-Reife mit vier Leitfragen und macht sichtbar, woran es in welcher Phase konkret hakt. Der Vorteil des Mittelstands: Kurze Entscheidungswege und weniger Bürokratie ermöglichen schnelleres Handeln – wenn KI nicht als IT-Projekt missverstanden wird.
Was wird für Großunternehmen im KI-Kontext relevant?
Aaron Levie, CEO von Box und einer der profiliertesten Köpfe der Enterprise-Software-Branche, hat Mitte April 2026 seine Beobachtungen aus Dutzenden Gesprächen mit IT- und KI-Verantwortlichen großer Unternehmen geteilt [1]. Darunter Vertreter von Banken, Medienhäusern, Einzelhändlern, Gesundheitsunternehmen und Beratungen – Feedback aus vielen Branchen. Seine Bestandsaufnahme ist aufschlussreich, denn vieles von dem, was Levie beschreibt, klingt vertraut.
Vom Wildwuchs zur Strategie: Unternehmen bewegen sich weg vom Ansatz „viele KI-Experimente“ hin zu gezielter Automatisierung konkreter Arbeitsabläufe. Das klingt nach Fortschritt. Aber es bedeutet auch: Die Phase des unkoordinierten Experimentierens ist bei Großunternehmen überwunden.
Change Management als größtes Thema: Die meisten Workflows sind nicht darauf ausgelegt, einfach so von KI-Agenten übernommen zu werden. Unternehmen benötigen massive Unterstützung, um die notwendigen Grundlagen und Anpassungen in der gesamten Organisation umzusetzen. Levie berichtet beispielsweise von einem Unternehmen, das in jeder Geschäftseinheit einen KI-Verantwortlichen installiert hat, die alle an ein zentrales Team berichten – nur um die Koordination aufrechtzuerhalten. [Change Management – der unterschätzte Erfolgsfaktor bei KI-Implementierungen]
Fragmentierte Systeme als Hindernis: Die meisten Unternehmen kämpfen mit Jahrzehnten gewachsener IT-Landschaften. Systeme, die zwar in die Cloud migriert, aber nicht unbedingt modernisiert wurden. KI-Agenten können diese Datenquellen nicht durchgängig nutzen. [Datenqualität für KI – Warum die meisten Unternehmen am falschen Ende anfangen]
Von Chat zu Agenten: Großunternehmen bewegen sich von der Chat-Ära der KI zu Agenten, die Werkzeuge nutzen, Daten verarbeiten und operative Arbeit übernehmen. Gleichzeitig stellt Levie fest: Die meisten Arbeitsabläufe sind dafür nicht vorbereitet. Ohne dokumentierte Prozesse, ohne verfügbare Daten, ohne klare Governance bleiben Agenten ein Versprechen ohne Fundament. [Multi-Agenten-Systeme – was der Mittelstand darüber wissen sollte]
Alle arbeiten mehr, nicht weniger: Einstimmig berichten alle Gesprächspartner, dass KI derzeit nicht zu einer Arbeitsentlastung führt. Im Gegenteil: Die Teams sind so beschäftigt wie nie zuvor. [Künstliche Intelligenz macht uns produktiver – und genau darin liegt eine Gefahr]
Was kann der Mittelstand daraus für seine strategische KI-Positionierung ableiten?
Eine naheliegende Reaktion aus dem Mittelstand auf Levies Beobachtungen könnte sein:
„Das betrifft Konzerne, nicht den Mittelstand. Wir haben noch Zeit.“ Diese Einschätzung ist nachvollziehbar, aber sie deckt sich nicht in jedem Fall mit der Realität.
Die Engpässe, die Levie bei Großunternehmen beobachtet, sind keine zukünftigen Herausforderungen, die erst noch auf den Mittelstand zukommen. Sie sind bereits Gegenwart. Der Unterschied liegt nicht im Timing, sondern in ihrer Sichtbarkeit und den zu ihrer Bewältigung verfügbaren Ressourcen.
Großunternehmen bauen Organisationsstrukturen mit KI-Verantwortlichen auf, unterhalten Strategieabteilungen, die Engpässe systematisch analysieren, oder binden externe Berater ein, die Frameworks liefern.
Anders ausgedrückt: Wenn ein Konzern zu dem Ergebnis kommt, dass etwa Change Management das zentrale KI-Hindernis ist, dann kann oft auf bereits etablierte Strukturen und auf die erforderlichen Ressourcen zurückgegriffen werden, um diese Herausforderung zu adressieren.
Welche Herausforderungen teilen Mittelstand und Großunternehmen – und wo unterscheiden sich die Handlungsoptionen?
Durch die Mittelstandsbrille betrachtet wird klar, dass die Herausforderungen im KI-Kontext strukturell ähnlich sind, es aber oft noch keine Instanz gibt, die sie artikuliert und aktiv daran arbeitet, sie zu überwinden.
Was bei Großunternehmen als „fragmentierte Legacy-Systeme“ diagnostiziert wird, übersetzt sich auf den Mittelstand mit einer SAP-Installation, drei Excel-Inseln und einem angekoppelten ERP-Modul. Dazu kommt Wissen, das in den Köpfen der erfahrensten Mitarbeitenden steckt. [Tribal Knowledge – Warum informelles Betriebswissen der blinde Fleck jeder KI-Implementierung ist]
Was bei Konzernen als „let a thousand flowers bloom“ beschrieben wird, heißt im Mittelstand: Einzelne Mitarbeitende nutzen ChatGPT, der Vertriebsleiter hat eine Copilot-Lizenz, aber grundlegende Arbeit an Unternehmensprozessen findet noch nicht statt. [Die Imagination Gap – Warum Vorstellungskraft der eigentliche KI-Engpass ist]
Was bei Großunternehmen als Change-Management-Herausforderung erkannt wird, bleibt im Mittelstand zunächst unsichtbar – weil KI dort oft noch als IT-Thema verortet ist und nicht als organisatorische Transformationsaufgabe.
Kurz: Die Herausforderungen sind dieselben. Nur wie diese artikuliert und auf sie reagiert wird, unterscheidet sich.
Warum ist KI-Transformation nicht mit einem IT-Rollout vergleichbar?
Mittelständler haben über Jahrzehnte ihre eigenen Erfahrungen mit IT-Projekten gemacht. Unternehmensweite Software-Rollouts, die lange dauerten. ERP-Migrationen, die das Budget gesprengt haben. Digitalisierungsinitiativen, die erst nach dem zweiten oder dritten Anlauf wirklich funktionierten. Und selbst dann hat es oft Monate gedauert, bis alle Mitarbeitenden das neue System wirklich verstanden haben.
Diese Erfahrung hat eine mentale Schublade geschaffen: „IT-Projekte dauern ewig, kosten viel und es dauert oft noch länger, bis die Technologie von allen verstanden wird.“
KI wird auch in diese Schublade gesteckt. Und das ist eine Fehleinschätzung.
KI-Transformation ist kein Software-Rollout. Die Investitionshöhe ist eine andere. Die Iterationsgeschwindigkeit ist dynamischer. Die Einstiegsschwelle ist niedriger. Ein Team kann in einer Woche mit KI produktiver werden, wenn die Rahmenbedingungen dafür stimmen. Ein ERP-Modul in einer Woche einzuführen, ist dagegen herausfordernd.
Warum hat der Mittelstand genau die Stärken, auf die es bei der KI-Transformation ankommt?
Hier offenbart sich ein Paradox: Der Mittelstand hat genau die Stärken, die für eine erfolgreiche KI-Transformation entscheidend sind. Kurze Entscheidungswege. Weniger Abstimmungsschleifen, weniger Bürokratie, weniger politische Grabenkämpfe.
Aber oft werden genau diese Stärken nicht genutzt – weil „KI“ fälschlicherweise als ein Software-Thema kategorisiert wird, das Geduld, große Budgets und lange Zeiträume erfordert.
Die gute Nachricht: Wer diese Fehlkategorisierung erkennt, gewinnt einen Vorsprung. Nicht gegenüber Konzernen, sondern gegenüber den Mitbewerbern, die noch in dieser Denkfalle stecken.
Wie macht die KI-Transformationsmatrix Engpässe sichtbar?
Welche Fragen müssen gestellt werden, damit eine erste Diagnose aufzeigt, wo das Unternehmen steht, worauf jetzt geachtet werden muss und welche Themen konkret bearbeitet werden sollten?
Die KI-Transformationsmatrix ist dafür ein erster Wegweiser. Sie verbindet zwei Dimensionen: die fünf Phasen, die ein Unternehmen bei der KI-Transformation durchläuft, gekoppelt mit vier Leitfragen, die beschreiben, was in der jeweiligen Phase besonders relevant ist.
Die vier Leitfragen:
- WAS machen wir mit KI? Gibt es priorisierte Use Cases oder fehlt hier noch die notwendige Klarheit?
- WORAUF bauen wir auf? Sind Daten, Prozesse und Kontext so aufbereitet, dass eine KI damit produktiv arbeiten kann?
- WER kann das? Haben die richtigen Menschen die Kompetenz, mit KI zu arbeiten?
- WER entscheidet? Gibt es klare Verantwortlichkeiten, Governance und Eskalationswege?
In jeder Phase adressieren andere Leitfragen den primären Engpass.
Phase 1: Wer in Phase 1 feststeckt („Copilot gekauft, Problem nicht gelöst“), scheitert nicht an allem gleichzeitig. Die Organisation muss primär die Frage „WORAUF bauen wir auf?“ beantworten, um weiterzukommen. KI wird in dieser Phase mit der Standardkonfiguration genutzt – kein Kontext, kein Projektwissen. Jeder Chat beginnt bei Null. Die Folge: Das Tool funktioniert zwar technisch, aber es hat keine „Erinnerung“ und keinen „Kontext“, auf den es aufbauen kann, und kann deshalb seine Hebelwirkung nicht wirklich entfalten.
Phase 2: Einzelne Champions nutzen KI bereits als echten Sparringspartner. Sie haben echte Use Cases gefunden, die Ergebnisse sind konkret und messbar. Damit verschiebt sich der Engpass zur Frage „WER kann das?“ – Die Champions legen vor, ihr Verständnis ist tief, bleibt aber implizit und schwer übertragbar. Prompts werden gepflegt, aber in persönlichen Setups, nicht organisationsweit.
Phase 3: Teams arbeiten kollaborativ mit KI zusammen. Spätestens jetzt wird die Frage „WAS machen wir mit KI?“ zentral: Use Cases müssen von einzelnen Personen auf unternehmensweite Prozesse übertragen werden. Was vorher ein persönliches Setup war, muss systematisiert und dokumentiert werden. Gleichzeitig baut die Organisation auf einer geteilten Wissensbasis auf – gleiche Kontextdaten, Prompts und Workflows für alle im Team. [KI in der Produktion – anderer Hallenboden, ähnliche Herausforderungen?]
Phase 4: KI-Agenten führen operative Prozesse eigenständig aus. Der Fokus liegt dann auf der Frage „WER entscheidet?“ Autonome Systeme benötigen eingebettete Governance-Entscheidungsregeln, die in die Agenten-Workflows integriert sind, mit Audit-Trails als Standard.
Diese Matrix ist kein akademisches Modell. Sie ist ein erstes Diagnose-Werkzeug. Wer die vier Fragen ehrlich beantwortet, weiß innerhalb von kurzer Zeit, in welcher Phase das Unternehmen steht und wo die konkreten Hebel liegen.
Welche konkreten Vorteile hat der Mittelstand?
Großunternehmen etablieren aufwendige interne Prozesse, um KI-Budgets und Ressourcen aufzuteilen, bauen Governance-Hierarchien auf und arbeiten an der Interoperabilität verschiedener KI-Systeme. Diese Reibungsverluste hat der Mittelstand nicht. Die Geschäftsführung kann die vier Leitfragen mit einem Team in einem Nachmittagsmeeting durchgehen und dann erste Richtungsentscheidungen treffen. Das ist der strukturelle Vorteil kurzer Entscheidungswege.
Die eigentliche Herausforderung kommt danach: Welche Tools setzen wir ein? Wie sieht die technische Umsetzung aus? Wie stellen wir sicher, dass die anfängliche Dynamik nicht im Tagesgeschäft versandet? Diese Fragen lassen sich zwar nicht an einem Nachmittag beantworten, aber parallel zum Rollout bearbeiten.
Unser Ansatz: Nutzen Sie die Matrix als Ausgangspunkt, um die drängendsten Engpässe zu identifizieren und dann die ersten Schritte einzuleiten. Gleichzeitig lohnt es sich, über eine KI-Strategie nachzudenken (die auch eine Transformationsstrategie ist), die das Gesamtbild ordnet – von der Toolauswahl über Prozessanpassungen bis zur Qualifizierung der Mitarbeitenden. Die Matrix zeigt, wo Sie stehen. Die KI-Strategie zeigt Ihnen den Weg zum Ziel, bündelt alle Aktivitäten und stellt die Passfähigkeit mit der Unternehmensstrategie sicher.
Der Vorteil des Mittelstands ist da. Aber er wird nur dann zum Vorsprung, wenn Unternehmen über die Phasen 0 und 1 hinauskommen.
Ein Schnelltest für Ihr Unternehmen
Die folgenden Fragen knüpfen direkt an die Leitfragen der Matrix an und geben Ihnen in wenigen Minuten eine erste Einschätzung, welche Phase Ihr Unternehmen gerade beschreibt – und wo der größte Hebel liegt.
1. Wissen Sie genau, welche drei Prozesse in Ihrem Unternehmen am meisten von KI profitieren würden – oder experimentieren Ihre Mitarbeitenden noch auf eigene Faust?
Wenn Sie die drei Prozesse nicht benennen können, fehlt Ihnen die Antwort auf die Frage „WAS“. Das ist kein Vorwurf – es ist die Imagination Gap, die in den meisten Unternehmen existiert.
2. Wenn ein neuer Mitarbeiter morgen anfängt: Gibt es dokumentiertes Wissen, das er nutzen könnte, um direkt zu starten – oder steckt alles in den Köpfen Ihrer erfahrensten Leute?
Diese Frage testet das „WORAUF“. Und sie hat eine Dringlichkeit, die über KI hinausgeht: Jedes undokumentierte Wissen ist ein Risiko – unabhängig davon, ob Sie KI einsetzen oder nicht. Denken Sie an das Thema Personalfluktuation.
3. Nutzt Ihre Führungsebene selbst regelmäßig KI als Sparringspartner – oder wurde das an „die Jungen“ oder die IT-Abteilung delegiert?
„WER KANN DAS“ beginnt oben. Wenn die Führungsebene KI nicht selbst nutzt, fehlt ihr die Grundlage, um KI-Strategien zu bewerten, Ressourcen zuzuteilen und die Organisation mitzunehmen.
4. Gibt es in Ihrem Unternehmen klare Regeln, wann und wie KI-Ergebnisse von einem Menschen geprüft werden – und wer das tut?
„WER ENTSCHEIDET?“ klingt nach einer Frage für Phase 4. Aber auch in Phase 1 und 2 braucht es grundlegende Spielregeln für den KI-Einsatz. Wer keine hat, läuft Gefahr, dass Fehler erst sichtbar werden, wenn sie Konsequenzen haben.
5. Könnten Sie heute einen wiederkehrenden Prozess benennen, den ein KI-Agent in zwölf Monaten eigenständig übernehmen könnte?
Wenn ja: Sie denken bereits in Phase 3 oder 4. Wenn nein: Genau diese Vorstellungskraft zu entwickeln, ist einer der ersten und wichtigsten Schritte.
Keine dieser Fragen erfordert ein Budget. Keine erfordert eine Technologie-Entscheidung. Aber jede einzelne zeigt, wo Ihr Unternehmen steht – und was als Nächstes kommt.
Quellen: [1] Aaron Levie (@levie), X – https://x.com/levie/status/2043426157367095397/?s=20&rw_tt_thread=True
Sie möchten KI in Ihrem Unternehmen einsetzen und haben Fragen zur KI-Implementierung?
Gerne analysieren wir mit Ihnen in einem ersten unverbindlichen Strategiegespräch, wie der Einsatz von KI in Ihrem Unternehmen aussehen könnte und was dabei zu beachten ist.
KI-Fatigue ist kein individuelles, sondern ein strukturelles Problem | NordAGI
[…] Einordnungen zu den organisatorischen Herausforderungen haben wir in unserem Beitrag zur KI-Transformationsmatrix […]