KI-Strategie entwickeln, vom Pilotprojekt zum System im Mittelstand

Sechs Monate nach dem ersten KI-Pilot sieht es in vielen Mittelständlern ähnlich aus: Eine Abteilung hat einen funktionierenden Use Case, andere sind interessiert, doch nichts kommt voran. Das Phänomen ist gut bekannt. Der Pilot war erfolgreich, weil eine Person ihn engagiert vorangetrieben hat, und genau diese Energie lässt sich nicht beliebig kopieren. Ohne Strukturen für die Weitergabe bleibt der Erfolg ein Einzelfall.

Hinzu kommen typische Bremsfaktoren. Andere Abteilungen sehen zwar den Erfolg, aber nicht den Weg dorthin, die IT fürchtet Wildwuchs, der Datenschutz weiß nicht, ob jeder Use Case neu geprüft werden muss, und die Geschäftsführung erkennt erste Erfolge, hat aber kein klares Bild davon, wohin das Unternehmen eigentlich will. Spätestens hier wird deutlich, dass Skalierung keine Werkzeug-Frage mehr ist, sondern eine Frage der Organisation und der Strategie.

Wer ohne Vorbereitung skaliert, erzeugt Komplexität ohne Wirkung. Drei Indikatoren zeigen, ob ein Mittelständler bereit ist, seine KI-Strategie auf breitere Füße zu stellen.

Erstens sollten mindestens zwei erfolgreiche Use Cases in unterschiedlichen Abteilungen laufen, denn sie belegen, dass KI nicht zufällig funktioniert hat, sondern reproduzierbar ist. Zweitens braucht es klare, für KI nutzbare Datenflüsse, weil ohne saubere Datenstruktur keine Lösung über das einzelne Tool hinaus skaliert. Und drittens muss eine Person die Gesamtverantwortung tragen. Das muss kein Vollzeitjob sein, aber jemand sollte über alle Abteilungen hinweg den Überblick behalten.

Sind diese drei Bedingungen erfüllt, ist Skalierung möglich. Fehlt eine, lohnt es sich, sie zuerst aufzubauen, statt weitere Use Cases auf ein wackliges Fundament zu stellen.

Eine KI-Strategie, die das Skalieren im Mittelstand trägt, ruht auf vier Säulen, die ineinandergreifen.

Die erste Säule ist die Plattform, also die technische Grundlage, auf der mehrere Use Cases laufen können. Sie muss nicht groß sein, ein klares Setup für Modellzugriff, Datenanbindung und einfache Workflows reicht in der Anfangszeit. Die zweite Säule ist der Prozess, ein standardisierter Weg, wie ein neuer Use Case identifiziert, bewertet, umgesetzt und übergeben wird. Ohne diesen Prozess scheitert Skalierung schon an der Wiederholung.

Die dritte Säule sind die Menschen, also ein Center of Excellence, Multiplikatoren in den Abteilungen und klare Verantwortlichkeiten, denn sie tragen die Skalierung im Alltag. Die vierte Säule ist die Performance, die Erkennbarkeit also, was funktioniert und was nicht. Welche Use Cases liefern echten Wert, welche stagnieren und welche sollte man besser abschalten?

Wer eine dieser Säulen vernachlässigt, bremst die anderen aus. Wer alle vier bewusst aufbaut, kommt vom einzelnen Pilot zum System.

Ein typischer Skalierungsweg sieht so aus: In einer Vertriebsabteilung hat eine Mitarbeiterin einen Custom Prompt entwickelt, der aus Kundenanforderungen Angebotsbeschreibungen erzeugt. Das funktioniert gut, aber nur auf ihrem Rechner.

Im ersten Schritt wandert der Prompt in eine zentrale, freigegebene Sammlung, sodass andere im Vertrieb ihn ebenfalls nutzen können. Im zweiten Schritt wird er in eine kleine Anwendung übersetzt, mit Eingabemaske für die Kundendaten und automatischem Lauf, sodass niemand den Prompt mehr kennen muss. Im dritten Schritt greift diese Anwendung direkt auf das CRM zu, zieht Kundendaten automatisch und legt das Ergebnis als Entwurf wieder dort ab. Und im vierten Schritt wird der Workflow fester Teil des Vertriebsprozesses, ohne den sich die Arbeit unvollständig anfühlt.

Was wie ein einzelner Use Case aussieht, ist in Wirklichkeit ein Pfad. Eine gute KI-Strategie bedeutet, diesen Pfad nicht für jeden Use Case neu zu erfinden, sondern als wiederholbares Muster zu etablieren.

Eine schlanke Governance, die für zwei Use Cases gut funktioniert hat, reicht für zwölf nicht mehr aus. Drei Erweiterungen werden notwendig, wenn ihr eure KI-Strategie weiter skaliert.

Zunächst gehört jeder Use Case nach Risikoniveau klassifiziert: Was ist rein intern, was hat Außenwirkung, was berührt sensible Daten? Daraus ergeben sich unterschiedliche Prüf- und Freigabeprozesse. Dann braucht es eine Lebenszyklus-Verantwortung, also eine klare Antwort darauf, wer einen Use Case nach dem Go-live betreut und über Anpassungen oder Abschaltung entscheidet, damit keine verwaisten Workflows entstehen. Und schließlich zählt die Audit-Fähigkeit, denn wer wann mit welchen Daten gearbeitet hat, muss nachvollziehbar sein. Im Umfeld des EU AI Act ist diese Dokumentation kein Bonus mehr, sondern Pflicht.

Auch hier gilt der Mittelstands-Grundsatz, dass es schlank bleiben muss. Eine klare Verantwortung pro Use Case und ein einseitiges Lebenszyklus-Schema reichen in der Regel völlig.

Nicht jeder Use Case wird ein Erfolg, und das ist auch nicht das Problem. Zum Problem wird es erst, wenn aus einem gescheiterten Pilot ein gescheitertes Image der ganzen KI-Strategie wird.

Wer von Anfang an offen kommuniziert, dass nicht jeder Versuch funktioniert, schafft Raum für eine ehrliche Bewertung. Drei Fragen helfen dabei. Hat der Use Case sein Ziel verfehlt, oder war das Ziel falsch gesetzt? Viele Pilote scheitern nicht an der Technik, sondern an unklaren Erwartungen. Liegt das Problem bei den Daten, bei den Menschen oder bei der Technik? Jede Ursache hat einen anderen Lösungsweg. Und nicht zuletzt: Was nehmen wir mit? Selbst gescheiterte Pilote liefern Erkenntnisse, die das nächste Vorhaben besser machen.

Mit dieser Haltung wird Misserfolg zur Bedingung des Erfolgs. Wer nie einen Piloten scheitern lässt, hat sie schlicht zu vorsichtig gewählt.

Das Center of Excellence ist eine Übergangsstruktur. In den ersten zwölf bis 24 Monaten ist es der richtige Ort, um KI-Wissen, Use Cases und Verantwortung zu bündeln. Auf Dauer löst es sich idealerweise teilweise wieder auf, weil die Kompetenz in den Abteilungen selbst entsteht.

Drei Anzeichen zeigen, dass ein Mittelständler diese Übergangsphase verlässt. Use Cases entstehen zunehmend aus den Abteilungen heraus statt aus der zentralen Initiative, weil Mitarbeiter selbst Potenzial erkennen und die Umsetzung mittreiben. Die Standardprozesse für Auswahl, Umsetzung und Betrieb sind dokumentiert und werden ohne externe Hilfe gelebt. Und die Geschäftsführung steuert KI-Projekte als Teil der normalen Unternehmensplanung, nicht mehr als Sonderthema.

Wenn das passiert, ist KI im Unternehmen angekommen. Beratung verschiebt sich dann von operativer Begleitung zu punktueller strategischer Unterstützung. Genau dieser Weg, von der eigenständig entwickelten KI-Strategie zur gelebten Praxis, ist das eigentliche Ziel.

Wer eine KI-Strategie entwickelt und mit dem Skalieren rechnet, sollte realistische Zeiträume kennen.

In den ersten sechs Monaten entstehen erste Use Cases, dazu kommen Schulungen, eine Tool-Whitelist und erste Multiplikatoren. Zwischen Monat sechs und zwölf ist das Center of Excellence aktiv, mehrere Use Cases laufen parallel und erste Standardprozesse greifen. Von Monat zwölf bis 18 entstehen die ersten vollständig integrierten Workflows, die Skalierung erreicht mehrere Abteilungen und die EU-AI-Act-Compliance ist erfüllt. Zwischen Monat 18 und 24 wird KI Teil der normalen Geschäftslogik, und der Beratungsbedarf verschiebt sich von operativ zu strategisch.

Ab Monat 24 ist der Reifegrad eines KI-integrierten Unternehmens erreicht. Nicht jeder Mittelständler braucht oder erreicht diesen Endpunkt, die Mehrzahl bewegt sich zwischen Stufe zwei und drei und ist damit gut aufgestellt. Allen Zeiträumen gemeinsam ist, dass sie realistisch sind und nicht ambitioniert. Wer früher fertig sein will, baut Fundament-Risiken auf, die später teuer zurückkommen, und wer zu spät anfängt, holt diese Zeit nur unter Druck wieder rein. Genau deshalb ist heute der richtige Moment, die eigene KI-Strategie zu entwickeln.