KI Implementierung: Was gute Prompts für den Mittelstand ausmacht

KI Implementierung, Prompt Mittelstand, KI-Implementierung im Mittelstand

KI Implementierung: Was gute Prompts für den Mittelstand ausmacht

Dies ist der zweite Teil unserer Serie zur KI-Implementierung im Mittelstand. Im ersten Teil haben wir die strategischen Voraussetzungen geklärt: Welche Fragen sollten Sie beantworten, bevor Sie an Tools denken? Nun wird es praktisch: Wie schreiben Sie gute Prompts für Ihr Unternehmen, die tatsächlich brauchbare Ergebnisse liefern und einen Mehrwert für Ihr Unternehmen darstellen?

Bewährt hat sich die Faustregel: Wenn Sie einem neuen Mitarbeitenden die gleiche Aufgabe stellen würden, welche Rückfragen hätte er dazu? Diese Fragen sollten Sie im Prompt bereits beantworten.

Warum die meisten Prompting-Tipps im Unternehmen scheitern

Nach der strategischen Vorbereitung (mehr dazu im ersten Teil dieser Serie) stehen Unternehmen oft vor der folgenden Herausforderung: Die Mitarbeitenden haben Zugang zu KI-Systemen, aber die Qualität der Ergebnisse schwankt stark. Manchen gelingt es auf Anhieb, brauchbare Resultate zu erzielen, bei anderen ist es bestenfalls generischer Output, der nach KI klingt und am Ende mehr Arbeit macht, als er spart. 

Das Problem liegt selten an der Technologie, also den KI-Systemen, sondern daran, dass die meisten Prompting-Ratgeber für Einzelpersonen geschrieben sind, für alle KI-Systeme passen sollen und vor allem nicht für den Team-Einsatz in einem professionellen Umfeld ausgelegt sind. Das Resultat: Diese Ratgeber empfehlen Tricks und Kniffe, die im persönlichen Gebrauch funktionieren, aber im Unternehmenskontext versagen. Denn beim Einsatz von KI im Mittelstand geht es nicht darum, dass eine einzelne Person beeindruckende Ergebnisse erzielt, sondern darum, dass zehn, zwanzig oder fünfzig Mitarbeitende konsistent gute Ergebnisse erzielen. Denn genau dann entsteht das, was KI verspricht: echte Hebelwirkung über alle Abteilungen des Unternehmens hinweg. 

Der entscheidende Unterschied ist, dass effektive Prompts im Unternehmen keine „individuellen Tricks“ sein sollten. Sondern dokumentierte Prozesse, die weitergegeben und verbessert werden können.

Die vier Bausteine eines wirksamen Prompts

In unserer Begleitung mittelständischer Unternehmen hat sich ein einfaches Grundgerüst bewährt. Es besteht aus vier Elementen, die gemeinsam dafür sorgen, dass KI-Systeme besser verstehen, was tatsächlich von ihnen erwartet wird. Diese Herangehensweise lässt sich auf nahezu jede KI-Anwendung im Unternehmen übertragen.

1. Kontext – Wer spricht, und in welcher Situation?

Den passenden Kontext bereitzustellen ist besonders relevant. Woher sonst sollten KI-Systeme das notwendige Wissen über Ihre Branche, Ihr Unternehmen oder Ihre Kunden erhalten? Die Falle: Alles, was der KI nicht mitgeteilt wird, wird von der KI durch Annahmen ersetzt – und diese Annahmen treffen selten ins Schwarze.

Ein Prompt-Beispiel aus dem Maschinenbau: „Schreibe eine E-Mail wegen der Lieferverzögerung“ führt zu einer generischen Entschuldigung, die so auch von einem Möbelhaus stammen könnte. Die Anweisung „Du unterstützt den Vertrieb eines mittelständischen Sondermaschinenbauers. Unser Kunde ist ein langjähriger Partner aus der Automobilzulieferindustrie. Formuliere eine E-Mail, die die zweiwöchige Verzögerung bei der Auslieferung einer Spezialfräse erklärt und gleichzeitig die Beziehung stärkt“ liefert ein gänzlich anderes Ergebnis.

Die gute Nachricht ist: Der Kontext muss nicht bei jeder Anfrage neu formuliert werden. Viele Unternehmen legen einen Basiskontext an, der die wichtigsten Informationen enthält. Etwa die Branche, Größenordnung, typische Kundenstruktur und die Tonalität der Kommunikation. Dieser Kontext wird dann bei Bedarf um situationsspezifische Details ergänzt und ist damit ein erster wichtiger Schritt zur systematischen KI-Implementierung im Mittelstand.

2. Aufgabe – Was genau soll geschehen?

Präzision bei der Aufgabenbeschreibung ist wichtiger als deren Länge. Die Anweisung „Schreibe etwas über unser neues Produkt“ ist vage. „Formuliere drei Kernbotschaften für unser neues Produkt, die jeweils einen anderen Kundennutzen in den Vordergrund stellen“ ist konkret.

Bewährt hat sich die Faustregel: Wenn Sie einem neuen Mitarbeitenden die gleiche Aufgabe stellen würden, welche Rückfragen würde er stellen? Diese Fragen sollten Sie im Prompt bereits beantworten. 

Typische Rückfragen wären etwa: An wen richtet sich das Ergebnis? Was ist das Ziel – informieren, überzeugen, dokumentieren? Gibt es Aspekte, die besonders betont oder bewusst ausgelassen werden sollen?

Ein bewährter Praxistipp: Testen Sie Ihren Prompt zunächst mit einem groben Entwurf. Die Lücken im ersten KI-Output zeigen Ihnen, welche Kontextinformationen noch fehlen. 

3. Format – Wie soll das Ergebnis aussehen?

KI-Systeme können Ergebnisse in nahezu jeder Form ausgeben: als Fließtext, als Aufzählung, als Tabelle, als Entwurf mit Platzhaltern. Ohne klare Vorgabe wählt das System ein Format, das selten optimal passt.

Für KMU besonders relevant: Viele Aufgaben haben bereits etablierte Formate. Ein Angebot folgt einer bestimmten Struktur, ein Protokoll hat feste Bestandteile, eine Reklamationsantwort einen bewährten Aufbau. Diese bestehenden Strukturen sollten im Prompt beschrieben oder als Vorlage mitgegeben werden.

Die Angabe „Maximal eine Seite“ oder „In drei Absätzen“ mag banal erscheinen, spart aber erhebliche Nacharbeit im Arbeitsalltag.

4. Beispiele – Was wäre ein gutes Ergebnis?

Dieser vierte Baustein ist optional, aber wirkungsvoll. Wenn Sie dem System zeigen, wie ein gelungenes Ergebnis aussieht, steigt die Trefferquote von Anfang an deutlich. In der Fachsprache nennt man das „Few-Shot-Prompting“. Das bedeutet, Sie geben ein paar Beispiele vor, aus denen das System das Muster ableitet.

Für Unternehmen bedeutet das: Sammeln Sie gelungene Texte, E-Mails, Dokumentationen als Informationsgrundlage für die KI. Diese dienen nicht nur als Qualitätsmaßstab für Ihre Mitarbeitenden, sondern auch als Trainingsmaterial für Ihre KI-Anwendung im Unternehmen.

Von der Einzelanfrage zur Prompt-Bibliothek

Der eigentliche Produktivitätssprung entsteht nicht durch bessere Einzelprompts, sondern durch Systematisierung. Stellen Sie sich vor, Ihre Vertriebsabteilung hat fünf Standardsituationen in der Kundenkommunikation: Erstanfrage beantworten, Angebot nachfassen, Reklamation bearbeiten, Lieferverzögerung kommunizieren, Jahresgespräch vorbereiten.

Für jede dieser Situationen lässt sich ein erprobter Prompt entwickeln, der die vier Bausteine enthält und von allen Mitarbeitenden genutzt werden kann. Das Ergebnis ist keine Vereinheitlichung im negativen Sinne, sondern eine Qualitätssicherung: Die Basis ist konsistent gut, individuelle Anpassungen bleiben trotzdem möglich.

Diese Prompt-Bibliothek für Ihr Unternehmen wächst mit der Zeit. Mitarbeitende, die bessere Formulierungen finden, können diese einbringen. Was funktioniert, wird dokumentiert. Was nicht funktioniert, wird angepasst. So entsteht ein kollektives Wissen über den effektiven Einsatz von Künstlicher Intelligenz im Unternehmen.

Denn aus der Sicht von KI-Systemen sind zwei Aspekte ganz besonders relevant: Prozesse und Kontext. Wenn Prozesse klar beschrieben sind und der Kontext zur Verfügung steht, kann die KI tatsächlich die erwartete Hebelwirkung entfalten. 

Häufige Fehler und wie Sie sie vermeiden

Zu viel auf einmal verlangen: Ein Prompt, der gleichzeitig analysieren, zusammenfassen, bewerten und Handlungsempfehlungen geben soll, überfordert viele KI-Systeme. Besser ist es, komplexe Aufgaben in Teilschritte zu zerlegen.

Zu wenig Kontext, zu viel Vertrauen: KI-Systeme sind keine Experten für Ihre Branche. Sie generieren plausibel klingende Texte, die fachlich danebenliegen können. Je mehr relevanten Kontext Sie liefern, desto geringer das Risiko.

Ergebnisse ungeprüft übernehmen: Auch der beste Prompt garantiert keine fehlerfreien Ergebnisse. Die Prüfung durch einen fachkundigen Menschen bleibt unverzichtbar, sie wird nur schneller, weil die Basis bereits stimmt.

Die vier Bausteine eines wirksamen Prompts

Das Grundgerüst für konsistent gute KI-Ergebnisse im Unternehmen

1
Kontext
Wer spricht, und in welcher Situation?
Branche, Unternehmensgröße, Kundenstruktur und Tonalität. Was nicht mitgeteilt wird, ersetzt die KI durch Annahmen.
Tipp: Legen Sie einen Basiskontext an, der bei Bedarf ergänzt wird.
2
Aufgabe
Was genau soll geschehen?
Präzision ist wichtiger als Länge. Beantworten Sie vorab die Rückfragen, die ein neuer Mitarbeitender stellen würde.
Tipp: Zielgruppe, Zweck und bewusste Auslassungen definieren.
3
Format
Wie soll das Ergebnis aussehen?
Fließtext, Aufzählung, Tabelle? Nutzen Sie etablierte Strukturen aus Ihrem Unternehmen als Vorlage.
Tipp: „Maximal eine Seite" spart erhebliche Nacharbeit.
4
BeispieleOPTIONAL
Was wäre ein gutes Ergebnis?
Zeigen Sie der KI gelungene Ergebnisse. Das System leitet daraus das Muster ab (Few-Shot-Prompting).
Tipp: Sammeln Sie gelungene Texte als Trainingsmaterial.
Dokumentierte Prozesse statt individueller Tricks = Konsistent gute Ergebnisse im gesamten Team

Der eigentliche Produktivitätssprung entsteht nicht durch bessere Einzelprompts, sondern durch Systematisierung

Was das für Ihre KI-Strategie bedeutet

Gutes Prompting ist kein technisches Spezialwissen, das Sie an die IT-Abteilung delegieren können. Es ist eine Kompetenz, die dort angesiedelt sein muss, wo die Fachkenntnis liegt: in den Fachabteilungen selbst.

Die Führungsaufgabe besteht darin, den Rahmen zu schaffen: Zeit für das Erproben und Dokumentieren von Prompts, eine gemeinsame Ablage für bewährte Vorlagen, regelmäßigen Austausch über Erfahrungen. Ob Sie das als interne KI-Schulung für Mitarbeitende organisieren oder als kontinuierlichen Lernprozess gestalten – Unternehmen, die das systematisch angehen, berichten von deutlich höherer Akzeptanz und messbaren Effizienzgewinnen.

Die hier beschriebenen Prompting-Grundlagen markieren einen entscheidenden Übergang: weg vom ungezielten Experimentieren einzelner Mitarbeitender, hin zum systematischen Einsatz von KI als Arbeitswerkzeug. In unserem Modell der KI-Transformationsreise entspricht das dem Schritt von Phase 1 – „Tool vorhanden, Nutzen unklar“ – zu Phase 2, in der KI tatsächlich zum persönlichen Produktivitätshebel wird.

Die gute Nachricht: Dieser Schritt erfordert keine großen Investitionen in neue Technologie. Er erfordert Klarheit über Prozesse, Kontext und Erwartungen – und die Bereitschaft, funktionierende Ansätze zu dokumentieren und weiterzugeben.

Die Frage, die sich viele Unternehmen an diesem Punkt stellen: Wie schaffen wir den Übergang von einzelnen Power-Usern zu einer Organisation, in der KI-Kompetenz breit verankert ist?

Wenn Sie diese Frage für Ihr Unternehmen beantworten möchten, sprechen Sie mit uns. 

In einem unverbindlichen Strategiegespräch analysieren wir gemeinsam, wo Sie aktuell stehen und welche nächsten Schritte für Ihre Situation sinnvoll sind.

Vereinbaren Sie ein unverbindliches Strategiegespräch.

Sie möchten tiefer in die strategischen Aspekte der KI-Transformation eintauchen? Lesen Sie auch unseren Artikel über Change Management als unterschätzten Erfolgsfaktor.

Die KI-Transformationsreise

5 Phasen vom Chaos zur strategischen KI-Excellence

1

"Wilder Westen"

Chaos
Ungeplante KI-Experimente ohne strategische Ausrichtung. Verschiedene Tools werden parallel getestet, ohne klare Erfolgsmessung oder Koordination.
ROI
Negativ
2

"Copilot gekauft, Problem nicht gelöst"

Tool-Fokus
Software-Lizenzen wurden beschafft, aber ohne Change Management oder systematische Einführung. Tools werden sporadisch genutzt.
ROI
10-30%
3

"KI als persönlicher Sparringspartner"

Systematisch
Führungskräfte nutzen KI strategisch für Entscheidungen und Problemlösung. Erste systematische Workflows entstehen.
ROI
30-100%
4

"Multiplayer KI-Teams"

Kollaborativ
Teams arbeiten koordiniert mit KI zusammen. Geteilte Workflows, standardisierte Prompts und teamübergreifende KI-Strategien.
ROI
100-300%
5

"Human-led, Agent-operated"

KI-Nativ
Autonome KI-Agenten übernehmen operative Aufgaben. Menschen konzentrieren sich auf Strategie und Führung.
ROI
300%+