Fast jedes Unternehmen beschäftigt sich inzwischen mit Künstlicher Intelligenz. Viele haben Lizenzen gekauft, Pilotprojekte gestartet und erste Assistenten eingeführt. Und trotzdem bleibt der Effekt oft hinter den Erwartungen zurück. Das liegt selten an der Technik. Meist fehlt etwas, das in keiner Datenbank steht: der Kontext, nach dem Ihre Prozesse wirklich laufen.
KI im Mittelstand: die Lage 2026
Die Zahlen zeigen einen schnellen Wandel. Laut einer repräsentativen Befragung des Digitalverbands Bitkom setzen inzwischen 57 Prozent der Unternehmen ab 20 Beschäftigten KI ein. Ein Jahr zuvor waren es 36 Prozent, zwei Jahre zuvor 20 Prozent.
Gleichzeitig sagt dieselbe Befragung: Nach eigener Einschätzung schöpft kein Unternehmen das Potenzial von KI vollständig aus, nur 3 Prozent eher stark. 28 Prozent nutzen es eher wenig, 59 Prozent überhaupt nicht. Bitkom-Präsident Ralf Wintergerst bringt es auf den Punkt: „Wer nur eine Lizenz kauft, hat KI eingekauft, aber noch nichts verändert.“
Der Einstieg ist also geschafft. Die eigentliche Frage lautet jetzt: Was braucht KI, um im eigenen Betrieb wirklich zu helfen?
Woran KI-Projekte wirklich scheitern
Wer genauer hinschaut, findet die Hürden nicht beim Modell, sondern davor und danach:
- Die Grundlage kostet am meisten Arbeit. Unter den größten Kostenpunkten nennen KI-Anwender die Aufbereitung von Daten mit 50 Prozent, fast gleichauf mit Infrastruktur und Rechenleistung (51 Prozent).
- Ergebnisse überzeugen nicht. 26 Prozent der Anwender beklagen eine schlechte Qualität der Ergebnisse, 25 Prozent mangelnde Nachvollziehbarkeit.
- Mitarbeitende ziehen nicht mit. Für 42 Prozent der Anwender ist die fehlende Akzeptanz der Beschäftigten ein Hemmnis.
Eine Befragung im Mittelstand zeigt dasselbe Muster von der anderen Seite: Im KI-Index Mittelstand des Deutschen Mittelstands-Bunds geben 27,4 Prozent der Unternehmen an, für mehr KI-Nutzung vor allem Hintergrundwissen zu konkreten Einsatzgebieten zu brauchen. Technisches Know-how nennen nur 13,7 Prozent. Es fehlt also weniger an Technik als an der Antwort auf die Frage: Wo und wofür genau?
Was „fehlender Kontext“ bedeutet
KI kann nur mit dem arbeiten, was man ihr gibt. In den meisten Unternehmen sind das Handbücher, Prozessbeschreibungen, E-Mails und Tabellen. Diese Dokumente zeigen den Plan. Wie ein Prozess tatsächlich läuft, wissen die Menschen, die ihn jeden Tag ausführen.
Ein Beispiel: In der Prozessbeschreibung steht, dass Aufträge nach Eingang abgearbeitet werden. Die erfahrene Disponentin weiß aber, dass ein bestimmter Kunde immer kurz vor Monatsende nachbestellt, dass eine Maschine bei Kälte länger zum Einrichten braucht und dass ein Lieferant zwei Tage vorher noch einmal angerufen werden muss. Nichts davon steht irgendwo. Eine KI, die nur die Dokumente kennt, plant deshalb ordentlich, aber an der Praxis vorbei.
Genau dieses Erfahrungswissen nennt man implizites Wissen. Was es ausmacht und warum es so schwer aufzuschreiben ist, erklären wir in unserem Beitrag Was ist implizites Wissen?. Für KI ist es entscheidend, weil es den Kontext liefert: wann eine Regel gilt, wann bewusst davon abgewichen wird und warum.
Fehlt dieser Kontext, passiert eines von zwei Dingen. Entweder liefert die KI Ergebnisse, die formal richtig, aber im Alltag unbrauchbar sind. Oder sie füllt die Lücken selbst und zieht falsche Schlüsse. Beides kostet Vertrauen, und das erklärt einen Teil der fehlenden Akzeptanz bei den Beschäftigten.
Nicht jedes Wissen eignet sich für KI
Bevor ein Werkzeug ausgewählt wird, lohnt sich ein Blick darauf, welche Art von Wissen in einem Prozess steckt. Grob lassen sich drei Fälle unterscheiden:
- Regelhaftes Wissen wiederholt sich und folgt klaren Bedingungen. Hier kann KI standardisieren und später automatisieren.
- Erfahrungswissen mit erkennbaren Mustern lässt sich in Entscheidungsregeln übersetzen, wenn man die richtigen Fragen stellt. Hier kann KI Mitarbeitende als Assistenz unterstützen, etwa bei der Einarbeitung.
- Urteilsgebundenes Wissen hängt an Abwägungen, Beziehungen und Verantwortung. Hier bleibt der Mensch entscheidend, KI kann höchstens Informationen vorbereiten.
Wer diese Unterscheidung vorher trifft, investiert gezielt. Wer sie überspringt, kauft im Zweifel die falsche Software und wundert sich später über schwache Ergebnisse.
KI im Mittelstand richtig vorbereiten: vier Schritte
- Den richtigen Prozess wählen. Beginnen Sie dort, wo drei Dinge zusammenkommen: Der Prozess ist wichtig für das Geschäft, er hängt an wenigen Personen, und es kommen viele Ausnahmen vor. Woran Sie solche Stellen erkennen, lesen Sie in Wissensverlust im Unternehmen: 6 Anzeichen.
- Das Erfahrungswissen sichtbar machen. Fragen Sie die Menschen, die den Prozess ausführen: Wann tritt eine Ausnahme auf, was tun Sie dann, warum, und was passiert, wenn man es nicht weiß?
- Das Wissen bewerten. Was davon ist regelhaft, was braucht Erfahrung, was menschliches Urteil? Was ist geprüft, was nur Gewohnheit? So entsteht eine Wissensbasis, auf die sich KI verlassen kann.
- Erst dann das Werkzeug wählen. Mit dieser Grundlage lässt sich klar beschreiben, was eine KI-Lösung leisten muss. Das schützt vor Fehlinvestitionen und vor der Abhängigkeit von einem einzelnen Anbieter.
Dieser Weg ist nicht der schnellste Einstieg. Aber er ist der, nach dem KI im Betrieb tatsächlich genutzt wird, weil sie zu den echten Abläufen passt.
Fazit: erst Kontext, dann KI
Die Frage für den Mittelstand ist 2026 nicht mehr, ob KI kommt. Die Frage ist, ob sie mit dem Wissen arbeitet, das Ihren Betrieb ausmacht. Dieses Wissen steckt zu einem großen Teil in den Köpfen erfahrener Mitarbeitender. Wer es vor dem KI-Projekt sichtbar macht und bewertet, schafft die Grundlage, auf der sich Investitionen auszahlen. Wie das methodisch funktioniert, zeigen wir auf unserer Seite zur WisTree-Methodik.
Quellen
- Bitkom e. V.: Erstmals nutzt die Mehrheit der Unternehmen KI. Presseinformation vom 14.09.2026, Befragung von 603 Unternehmen ab 20 Beschäftigten durch Bitkom Research. bitkom.org
- Deutscher Mittelstands-Bund (DMB) e. V. und Salesforce: KI-Index Mittelstand. Pressemitteilung vom 13.02.2025, Befragung von 526 Unternehmen mit bis zu 500 Beschäftigten. mittelstandsbund.de