03.02.2026
Blog
Data & AI

Warum 95% der KI-Projekte scheitern – und was der Mittelstand daraus lernen muss

Der deutsche Mittelstand hat kein Innovationsproblem. Er hat ein Strukturproblem im Umgang mit Wissen. Die Zahlen sind ernüchternd: Laut einem aktuellen MIT-Report scheitern 95 Prozent aller generativen KI-Pilotprojekte in Unternehmen. Gleichzeitig zeigt die WirtschaftsWoche, dass viele mittelständische Unternehmen 2025 deutlich weniger für KI-Anwendungen ausgegeben haben als im Vorjahr. Die Investitionen sinken – ausgerechnet jetzt, wo der Fachkräftemangel laut DIHK-Report auf einem Rekordhoch ist. 

Dr. Johannes H. Bondzio
Data Strategy Consultant
Osman Sahbaz
Digital Strategy Consultant im Competence Center EAM & Consulting

Das Paradox liegt auf der Hand: Alle reden über KI als Lösung für den demografischen Wandel. Doch die meisten Projekte liefern nicht. Woran liegt das?

Das eigentliche Problem ist nicht die Technologie

Wenn KI-Projekte scheitern, zeigen die Finger schnell auf die Technologie: zu unausgereift, zu teuer, zu komplex. Doch diese Erklärung greift zu kurz. Die Technologie funktioniert – was nicht funktioniert, ist die Grundlage, auf der sie eingesetzt wird.

Nach unserer Erfahrung aus dutzenden Projekten im deutschen Mittelstand lautet die unbequeme Wahrheit: Das ist keine Technologiedebatte. Das ist eine Wissenskrise der deutschen Wirtschaft.

Unternehmen scheitern nicht an KI – sie scheitern daran, dass ihr eigenes Wissen unsichtbar, verstreut und an einzelne Köpfe gebunden ist. KI kann nur funktionieren, wenn sie auf eine solide Wissensbasis zugreifen kann. Und genau diese Basis fehlt in den meisten Organisationen.

Der demografische Druck verschärft das Problem

Mit alternden Belegschaften verschwindet jahrzehntelanges Fachwissen still und leise aus den Unternehmen. Dies bremst Unternehmen in ihrer Schlagkraft zunehmend aus.

Stellen Sie sich folgendes Szenario vor: Was passiert in Ihrem Unternehmen, wenn morgen drei Schlüsselpersonen in Rente gehen? Der Produktionsleiter, der die Anlage seit 25 Jahren kennt. Die Vertriebsleiterin, die alle wichtigen Kundenbeziehungen im Kopf hat. Der IT-Administrator, der weiß, warum diese eine Legacy-Schnittstelle so konfiguriert ist.

Das ist keine hypothetische Frage. In vielen Unternehmen ist das eine Frage von Monaten, nicht von Jahren.

Die entscheidende Folgefrage: Wissen Sie wirklich, wo Ihr kritisches Fachwissen steckt – oder wissen Sie nur, wer es hat? Der Unterschied ist existenziell. Wenn Sie nur wissen, wer das Wissen hat, dann haben Sie ein Personenrisiko. Wenn diese Person geht, geht das Wissen mit.

Data Maturity: Die vergessene Voraussetzung

Wenn morgen ein KI-Projekt startet – können Sie erklären, welche Systeme, Daten und Regeln es überhaupt nutzen darf?

Die meisten Unternehmen können das nicht. Nicht aus Nachlässigkeit, sondern weil historisch gewachsene IT-Landschaften so komplex geworden sind, dass niemand mehr den vollständigen Überblick hat.

Genau hier liegt der Hauptgrund für scheiternde KI-Projekte: Nicht die Technologie ist das Problem – der Reifegrad der Datenverfügbarkeit ist es. Was wir Data Maturity nennen. Wenn dieses Fundament fehlt, kann die beste KI nichts ausrichten.

Drei Säulen für erfolgreiche KI-Projekte

Wie lässt sich das ändern? Aus unserer Projekterfahrung haben sich drei Erfolgsfaktoren herauskristallisiert:

1. Strukturen sichtbar machen

Der Grundsatz klingt trivial: Wir können nur dann einen Wertbeitrag leisten, wenn wir wissen, wie Wert im Unternehmen wirklich entsteht. Doch in der Praxis ist diese Wertschöpfungslogik meist implizit – sie steckt in informellen Prozessen, in Gewohnheiten, in den Köpfen einzelner Mitarbeiter.

Ein mittelständisches Industrieunternehmen wollte seine Servicequalität global skalieren. Dafür mussten wir zunächst verstehen: Welche Fachbereiche sind beteiligt? Welches Wissen brauchen sie? Wo steckt dieses Wissen heute – in Software-Systemen, in Dokumenten oder nur in den Köpfen einzelner Experten?

Das Ergebnis war aufschlussreich: Wissen war fragmentiert über Systeme, Dokumente und Köpfe verteilt. Wert entstand nur durch das Zusammenspiel dieser Beiträge. Und die reale Logik der Organisation war nirgendwo dokumentiert – damit weder skalierbar noch automatisierbar.

2. Daten verfügbar machen

Der zweite Grundsatz: Nicht Menschen müssen skalieren – sondern das Wissen, das sie tragen.

Das bedeutet konkret: Expertenwissen muss für alle Mitarbeiter zugänglich werden, unabhängig von Abteilung und Standort. Datensilos müssen aufgebrochen werden, damit KI überhaupt eine Grundlage hat. Und Wissen muss rund um die Uhr abrufbar sein – auch wenn der Experte gerade nicht verfügbar ist.

Angesichts des demografischen Wandels darf Wissen keine persönliche Eigenschaft mehr sein. Es muss zu einer organisatorischen Ressource werden.

3. Automatisierung richtig einsetzen

Erst wenn die ersten beiden Säulen stehen, macht KI-Automatisierung Sinn. Der richtige Weg folgt einer klaren Reihenfolge: Zuerst den Prozess identifizieren, wo heute Zeit verschwendet wird. Dann das benötigte Wissen formalisieren. Erst danach die KI instruieren mit Zugang zu relevanten Daten und klaren Regeln.

Das Ziel dabei: KI macht die Vorarbeit, der Mensch entscheidet. Es geht um Entlastung, nicht um Ersetzung.

Was möglich ist, wenn die Grundlagen stimmen

Ein Beispiel aus der Praxis zeigt das Potenzial: Bei einem großen Übertragungsnetzbetreiber haben wir die Trassensicherheit automatisiert. Entlang von Stromleitungen müssen regelmäßig Gefährdungen identifiziert werden – heranwachsende Bäume, neue Bebauung, Veränderungen im Straßennetz. Das war ein manueller Prozess, der Monate dauerte.

Die KI-Lösung erkennt und klassifiziert automatisch nach 49 Flächentypen. Das Ergebnis: 97 Prozent Aufwandsersparnis. Monate manueller Arbeit wurden auf Minuten reduziert.

Aber – und das ist entscheidend – das Unternehmen hat keine Menschen ersetzt. Es hat Zeit zurückgekauft. Zeit für Denken, Lernen und bessere Entscheidungen. Die finale Beurteilung bleibt beim Menschen.

Fazit: KI ist die Stabilitätsversicherung, nicht das Risiko

Unsere drei zentralen Erkenntnisse sind:

Wissen muss systematisiert werden. Solange kritisches Fachwissen in einzelnen Köpfen steckt, haben Sie ein Risiko – kein Asset.

Data Maturity ist die Schlüsselvoraussetzung. Nicht die Technologie entscheidet über Erfolg oder Scheitern – sondern der Reifegrad Ihrer Datenlandschaft.

KI ist kein Risiko – sondern die größte Stabilitätsversicherung, die wir haben. Richtig eingesetzt macht KI Unternehmen unabhängiger von Einzelpersonen und widerstandsfähiger gegen den demografischen Wandel.

Die Zukunft der deutschen Wirtschaft entscheidet sich nicht in Modellen oder Algorithmen. Sie entscheidet sich in der Frage: Wem gehört das Wissen – einzelnen Köpfen oder der Organisation?


Dieser Artikel basiert auf dem Webcast „Daten strategisch nutzen – Mehr Wert durch KI" der Materna Mittelstandsinitiative. Mehr Informationen unter materna.de.


Dr. Johannes H. Bondzio
Data Strategy Consultant

Dr. Johannes H. Bondzio ist Manager des Competence Center Data Economy bei Materna SE.

Osman Sahbaz
Digital Strategy Consultant im Competence Center EAM & Consulting

Osman Sahbaz ist Digital Strategy Consultant im Competence Center EAM & Consulting mit den Schwerpunkten auf Enterprise Architecture, Strategieberatung und Geschäftsmodell-Innovation. Er hat Erfahrung in den Branchen Manufacturing und Retail.