Die Debatte um den ausbleibenden ROI von KI ist zurück, und das nicht zum ersten Mal. In diesem Beitrag gehen wir der Frage nach, woher die Zahlen kommen, was sie aussagen und warum die wichtigere Frage ist: Was machen die 5 Prozent, bei denen KI einen ROI erzeugt, anders?
TL;DR:
Drei unabhängige Studien kommen zum selben Ergebnis: Rund 5 Prozent der Unternehmen ziehen messbaren Wert aus KI. Was sie anders machen: Sie verankern KI in der Unternehmensführung und gestalten Arbeitsabläufe grundlegend neu. Im Mittelstand entscheidet sich das an drei Verantwortungsbereichen, die häufig bei einer oder zwei Personen zusammenlaufen. Dieser strukturelle Vorteil wird zum Hebel, wenn die Verantwortlichen über eigene KI-Kompetenz verfügen.
Die ROI-Debatte: Viele Zahlen und eine entscheidende Frage, die zu selten gestellt wird
Die Debatte um den ausbleibenden ROI von KI ist zurück, und das nicht zum ersten Mal. Wieder wird eine vielzitierte Zahl, sie stammt aus dem MIT-NANDA-Report vom Juli 2025, in die Diskussion geworfen: Rund 95 Prozent der untersuchten KI-Pilotprojekte liefern keinen messbaren positiven Beitrag zur Gewinn- und Verlustrechnung. Die Studie wird breit rezipiert, die Herleitung der Zahl ist allerdings methodisch umstritten [1] und vor allem geht es um Pilotanwendungen und nicht um den unternehmensweiten KI-Einsatz.
Zu einem differenzierteren Ergebnis kommt McKinsey bei einer Befragung von knapp 2000 Teilnehmenden aus 105 Ländern. 88 Prozent der befragten Organisationen nutzen bereits KI in mindestens einer Funktion im Unternehmen. 5,5 Prozent der Befragten fallen in die Kategorie der „Spitzenreiter“, die dank KI einen substanziellen positiven Beitrag beim operativen Ergebnis erzielen [2]. Die Boston Consulting Group identifiziert in einer separaten Erhebung ebenfalls eine Gruppe von rund 5 Prozent der untersuchten Unternehmen, die KI systematisch einsetzen und damit einen messbaren Mehrwert generieren [4].
Drei Studien, drei verschiedene Methoden, drei verschiedene Definitionen von Erfolg, aber immer 5 Prozent
Jedes Mal gibt es einen Split von 5 Prozent zu 95 Prozent. Das klingt zunächst nach einem Muster, ist aber keines:
- MIT misst den Effekt einzelner Pilotprojekte auf die Gewinn- und Verlustrechnung [1].
- McKinsey misst den Beitrag zum operativen Ergebnis auf Unternehmensebene [2].
- BCG bewertet den organisatorischen Reifegrad [4].
Dass die Zahlen konvergieren, ist bemerkenswert, aber auch nicht mehr als ein Zufall. Viel interessanter ist doch die Frage, die sich aus den drei Studien ergibt: Was machen die erfolgreichen fünf Prozent beim KI-Einsatz anders?
Was die erfolgreichen 5 Prozent anders machen
Die Antwort darauf fällt bemerkenswert konsistent aus. McKinsey identifiziert zwei Faktoren, die am stärksten mit einem höheren Ergebnisbeitrag zusammenhängen [2].
- Die Unternehmen gestalten ihre Arbeitsabläufe grundlegend neu. Sie nutzen KI nicht, um bestehende Prozesse zu beschleunigen. Sie stellen bestehende Prozesse auf den Prüfstand und bauen neue Abläufe von Anfang an mit KI auf.
- Die Geschäftsleitung beteiligt sich aktiv an der KI-Governance. McKinsey zeigt, dass dieses Engagement unter allen untersuchten Merkmalen am stärksten mit einem höheren Ergebnisbeitrag zusammenhängt.
Daten von BCG ergänzen dieses Bild um einen weiteren Aspekt.
- Führende Unternehmen konzentrieren sich im Schnitt auf wenige KI-Anwendungsfälle, während die übrigen gleich mehrere parallel verfolgen (3,5 gegenüber 6,1 Anwendungsfälle). Die Unternehmen, die sich fokussieren, erwarten aus ihren KI-Investitionen die 2,1-fache Rendite im Vergleich zu den übrigen Unternehmen [3] (gemeint ist die isolierte Rendite der KI-Investition, nicht die Gesamtrendite des Unternehmens).
Unsere Einschätzung: Geschwindigkeit wird gerne mit Effizienz verwechselt. Das allein reicht aber nicht aus. Einen bestehenden Prozess schneller zu durchlaufen, spart ohne Frage Zeit. Aber ein Prozess, der keinen wirklichen Mehrwert für das Unternehmen hat, wird durch Automatisierung auch nicht wertvoller. Der Unterschied entsteht durch die Art, wie eine Organisation den Wandel gestaltet [Frontier Firms]. Was das konkret bedeutet, zeigt sich, wenn die zentralen Verantwortungsbereiche einzeln betrachtet werden.
Drei Verantwortungsbereiche, die den ROI von KI-Initiativen im Mittelstand beeinflussen
„Den Wandel gestalten“ klingt zunächst abstrakt oder nach einem Allgemeinplatz. Konkreter wird es, wenn drei zentrale Verantwortungsbereiche und deren typische Herausforderungen in den Fokus rücken.
Die Geschäftsführung vereint im Mittelstand Aufgaben, die im Konzern auf mehrere Rollen verteilt sind. Sie entscheidet über die strategische Ausrichtung und über die Budgets. Damit verantwortet sie das „Was“ und ebenso das „Wie viel“. Mit dieser Bündelung kann eine große Hebelwirkung einhergehen. Die Herausforderung im KI-Kontext liegt darin, dass Entscheidungen oft unter unsicheren oder nicht abschließend geklärten Randbedingungen getroffen werden müssen. Welcher Anwendungsfall letztlich den größten Hebel hat, lässt sich im Vorfeld oft nur abschätzen. Umso wichtiger wird die Vorarbeit. Welche Erfolgskriterien sollen gelten? Wie wird der Fortschritt gemessen? Bis wann soll ein Ergebnis vorliegen? Ohne diese Festlegungen fehlt später die Grundlage, um zu beurteilen, ob ein KI-Projekt erfolgreich ist oder eingestellt werden sollte. Und ohne diese Grundlage bleiben Pilotprojekte in der Bewertungsschleife hängen, weil niemand den Go/No-Go-Punkt verantworten kann [6].
Die IT-Verantwortlichen beschaffen und betreuen KI-Tools. Die typische Herausforderung ist dabei, dass Tools ausgewählt werden, bevor klar ist, in welche Arbeitsabläufe sie sich einfügen sollen. Als Folge solcher „One-Size-Fits-Most“-Lösungen entsteht eine Architektur, die technisch funktioniert, die aber teilweise an den Anforderungen der Fachabteilungen vorbeigeht. KI entfaltet ihre Wirkung dann, wenn sie Teil des Prozessdesigns ist, ob als Weiterentwicklung bestehender Abläufe oder als Grundlage ganz neuer Herangehensweisen [KI-Implementierung].
Die Personalleitung organisiert Schulungen und Weiterbildungen für KI. Im Mittelstand ist das oft eine Aufgabe, die neben vielem anderen erledigt werden muss. Entsprechend groß ist die Versuchung, KI-Schulungen als allgemeine Informationsveranstaltung aufzusetzen: Was ist KI? Welche Tools gibt es? Was sind die Risiken? Solche Schulungen schaffen Bewusstsein. Sie verändern selten das tägliche Arbeitsverhalten. Wirksam werden Schulungen dann, wenn sie an den konkreten Aufgaben und Prozessen der Teilnehmenden ansetzen. Und wenn sie auch den Bedenken und Widerständen Raum geben, die bei einem Thema wie KI unvermeidlich sind.
Unsere Einschätzung: Jeder dieser drei Verantwortungsbereiche kann ein KI-Projekt voranbringen oder zum Scheitern bringen. Entscheidend ist, dass die Verantwortlichen über die notwendige eigene KI-Kompetenz verfügen, damit sie einschätzen können, welche Versprechen belastbar sind und wo die Grenzen der Technologie liegen.
Warum der Mittelstand im Vorteil ist
In einem Großkonzern sind die beschriebenen Verantwortungsbereiche über mehrere Abteilungen und Hierarchieebenen verteilt. Eine KI-Initiative muss mit allen synchronisiert werden. Dabei kostet jede Übergabe Zeit und an jeder Schnittstelle besteht das Risiko, dass die gemeinsame Ausrichtung verloren geht.
Im Mittelstand hingegen laufen die Fäden häufig bei einer oder zwei Personen zusammen. Die Plattform Lernende Systeme formuliert es so, dass gerade kleinere und mittlere Unternehmen mit ihren kurzen Entscheidungswegen und ihrer überschaubaren Größe gute Voraussetzungen haben, um schnell auf technische Innovationen zu reagieren [5]. Das passt auch zum Befund von McKinsey [2]. Wenn die Nähe der Geschäftsführung zur KI-Governance ein Erfolgsfaktor ist, profitieren Unternehmen, in denen diese Nähe organisatorisch ohnehin gegeben ist.
Auch die Kehrseite gehört zu einer ehrlichen Betrachtung
Auch kurze Entscheidungswege sind nur dann hilfreich, wenn am Ende auch tatsächlich entschieden wird. Wenn alles über den Tisch einer einzigen Person läuft, kann diese schnell zum Engpass werden. Das KVP Institut weist darauf hin, dass KI-Pilotprojekte im Mittelstand oft monatelang in der Bewertungsphase hängen bleiben, weil niemand den Go/No-Go-Punkt verantworten will oder kann [6].
Hinzu kommt, dass KI-Entscheidungen nicht im luftleeren Raum stattfinden. Regulatorische Anforderungen wie der EU AI Act oder die DSGVO setzen einen Rahmen, den die Geschäftsführung kennen und einhalten muss. Wer hier die Verantwortung nicht frühzeitig klärt, riskiert neben dem Scheitern des Projekts auch Compliance-Probleme [KI-Governance beginnt bei der Geschäftsführung].
Unsere Einordnung: Geschwindigkeit durch kurze Wege wird dann zum Vorteil, wenn KI-Kompetenz, Entscheidungsfähigkeit und P&L-Verantwortung zusammenkommen. Werden Kompetenz und Entscheidungsverantwortung darüber hinaus auf mehr als eine Person verteilt, kann aus einem potenziellen Engpass ein Multiplikationseffekt werden.
Führungskompetenz gezielt aufbauen
Ob aus dem strukturellen Vorteil kurzer Entscheidungswege ein tatsächlicher Wertbeitrag wird, hängt von den handelnden Personen ab. Die entscheidende Frage lautet deshalb: Verfügt Ihre Führungsebene über ausreichend KI-Kompetenz, um in allen drei Bereichen fundierte Entscheidungen treffen zu können?
Diese Kompetenz lässt sich gezielt aufbauen. Für einen schnellen gemeinsamen Einstieg eignet sich unser zweitägiger Intensivworkshop KI Kompakt. Am Ende hat jede Führungskraft einen klaren Ausgangspunkt erarbeitet, das Team hat erste gemeinsame Workflows und einen konkreten Plan für die nächsten 90 Tage [LINK: KI Kompakt].
Wer die Kompetenz nachhaltig in der Organisation verankern will, findet im KI-Leadership-Programm einen Rahmen dafür. In drei Phasen verteilt sich KI-Kompetenz von der Geschäftsführung über die Führungsteams bis in die Abteilungen [LINK: KI Leadership].
Fazit
Die Frage nach dem ROI von KI ist berechtigt. Die wirklich wichtigen Antworten werden aber verpasst, wenn man nicht nachfragt, was die erfolgreichen Unternehmen anders machen, oder wenn der Fokus allein auf Werkzeugen und Technologie liegt.
Unternehmen, die mit KI einen messbaren Wertbeitrag erzielen, verstehen die KI-Implementierung als Transformation des gesamten Unternehmens. Der Mittelstand bringt ideale Voraussetzungen dafür mit, weil die entscheidenden Verantwortungsbereiche nah beieinander liegen. Diesen Vorteil zu nutzen, erfordert eine bewusste Entscheidung: KI-Kompetenz zuerst dort aufzubauen, wo die Entscheidungen fallen.
Quellenverzeichnis
[1] MIT NANDA (Project NANDA, MIT Media Lab): „The GenAI Divide: State of AI in Business 2025“. Lead Author Aditya Challapally, mit Chris Pease, Ramesh Raskar und Pradyumna Chari. Juli 2025. Grundlage: Auswertung von über 300 öffentlich dokumentierten KI-Initiativen, 52 strukturierte Interviews, 153 Umfrageantworten. Kernaussage: rund 5 Prozent der integrierten KI-Piloten erzeugen substanziellen Wert, die Mehrheit bleibt ohne messbaren positiven Effekt auf die Gewinn- und Verlustrechnung. Die Autoren kennzeichnen die Ergebnisse als vorläufig. Methodische Kritik unter anderem von Kevin Werbach (Wharton School).
[2] McKinsey & Company: „The State of AI“. Online-Befragung vom 25. Juni bis 29. Juli 2025, 1.993 Teilnehmende aus 105 Ländern, veröffentlicht am 5. November 2025. 88 Prozent nutzen KI in mindestens einer Funktion. Rund 5,5 Prozent gelten als Spitzenreiter mit substanziellem positivem Beitrag zum operativen Ergebnis. Nur 21 Prozent haben Arbeitsabläufe grundlegend neu gestaltet. Ein aktives Engagement der Geschäftsführung in der KI-Governance hängt am stärksten mit einem höheren Ergebnisbeitrag zusammen.
[3] Boston Consulting Group: „From Potential to Profit: Closing the AI Impact Gap“ (BCG AI Radar), veröffentlicht am 15. Januar 2025. Befragung von 1.803 Führungskräften aus 19 Märkten und 12 Branchen. Führende Unternehmen priorisieren im Schnitt 3,5 statt 6,1 Anwendungsfälle und erwarten aus ihren KI-Investitionen die etwa 2,1-fache Rendite im Vergleich zu den übrigen Unternehmen.
[4] Boston Consulting Group: „The Widening AI Value Gap: Build for the Future 2025“, veröffentlicht am 30. September 2025. Befragung von 1.250 Führungskräften aus 9 Branchen und über 25 Sektoren. Rund 5 Prozent der Unternehmen qualifizieren sich als „future-built“ und ziehen substanziellen Wert aus KI.
[5] Plattform Lernende Systeme (acatech-Umfeld): Booklet „KI im Mittelstand. Potenziale erkennen, Voraussetzungen schaffen, Transformation meistern.“ Veröffentlicht am 24. Juni 2021. Praxisorientierte Handreichung mit 17 Anwendungsbeispielen und KI-Roadmaps für KMU.
[6] KVP Institut GmbH: Artikelserie „Die neue Rolle der Führung im KI-Zeitalter“ (Teil 14 von 16). Analyse zu Führungslücken bei der KI-Einführung im Mittelstand, insbesondere zu unklaren Entscheidungswegen und langen Bewertungsphasen von Pilotprojekten. Hinweis: Beratungsquelle mit eigener Dienstleistungsperspektive, keine unabhängige empirische Studie.
Sie möchten KI in Ihrem Unternehmen einsetzen und haben Fragen zur KI-Implementierung?
Gerne analysieren wir mit Ihnen in einem ersten unverbindlichen Strategiegespräch, wie der Einsatz von KI in Ihrem Unternehmen aussehen könnte und was dabei zu beachten ist.
