Warum die meisten KI-Projekte nicht an der Technologie scheitern - und was das für Ihre nächste Entscheidung bedeutet.

Der Status-quo von KI in Unternehmen

Ich habe in den letzten zwei Jahren mit vielen Entscheidern über KI gesprochen. Irgendwann fiel mir etwas auf: In den seltensten Fällen liegt es an der Technologie, wenn Erfolg ausbleibt. Selbst Firmen mit klugem Management, starken Produkten und motivierten Teams, die Lizenzen gekauft, Demos evaluiert und Erwartungen gesetzt haben, kommen oft nicht vom Fleck .

Eine Zahl bringt das Problem für mich auf den Punkt. Laut McKinseys State of AI 2025 setzen 88 Prozent der Organisationen KI bereits ein. Doch nur ein Drittel hat begonnen, sie unternehmensweit zu skalieren. Und nur sechs Prozent erzielen einen messbaren Ergebnisbeitrag. Sechs Prozent. Wenn fast alle eine Technologie nutzen, aber kaum jemand davon profitiert, dann liegt das Problem nicht in der Technologie. Es liegt eine Ebene tiefer.

Ich bin überzeugt: Der Grund ist ein struktureller Denkfehler. Wir führen KI als Tool ein, obwohl Organisationen ein Betriebssystem brauchen. Dieser eine Kategorieunterschied erklärt aus meiner Sicht den größten Teil der Enttäuschung, die ich draußen erlebe. Anlässlich der Veröffentlichung unseres neuen eBooks zum Thema, will ich in diesem Artikel einen Überblick geben, wie wir bei nuwacom über KI-Betriebssysteme nachdenken.

Das gebrochene Versprechen der KI-Tools

Ein Muster, das mir immer wieder begegnet, ist folgendes: Ein Unternehmen kauft ChatGPT-Lizenzen, dazu vielleicht Microsoft Copilot, ein spezialisiertes Tool für den Vertrieb, eines für HR. Die ersten Wochen läuft alles großartig. Dann kehrt der Alltag allmählich wieder ein. Manche Mitarbeiter:innen nutzen die Tools regelmäßig, viele gelegentlich, ein großer Teil gar nicht. Von den versprochenen Produktivitätsgewinnen ist wenig zu sehen.

Das ist keine Ausnahme, sondern die Regel. Gartner dokumentiert, dass mehr als 30 Prozent aller GenAI-Projekte nach der Pilotphase wieder eingestellt werden. Das aufschlussreichste Detail dabei ist: Sie scheitern nicht an der Technik, sondern an der fehlenden organisatorischen Verankerung.

Der Punkt, an dem es für mich klick gemacht hat, ist: Ein einzelner Mensch kann mit einem KI-Tool deutlich produktiver werden. Aber alles, was er dabei erarbeitet - sein Prompt-Wissen, seine Erkenntnisse, seine Arbeitsweise - bleibt privat und verschwindet mit dem Ende der Session. Was ich heute in meinem Chat herausfinde, existiert morgen für meine Kollegin nicht.

Ich formuliere das gerne so: KI-Tools schaffen Wissensinseln. Ein Betriebssystem schafft ein lernendes Netzwerk. Und davon hängt ab, ob am Ende eine Organisation klüger wird oder nur einzelne Personen.

Die Frage nach dem Modell ist eine Sackgasse

Wenn Unternehmen heute über KI diskutieren, drehen sich die Gespräche erstaunlich oft um das Modell. Nehmen wir OpenAI, Anthropic, oder Google/Gemini? Welches ist das beste Modell? Ich halte das für die falsche Frage. Sie führt in eine Sackgasse, weil sich die Antwort mit jedem Modell-Update ohnehin wieder ändert.

Die richtige Frage lautet aus meiner Sicht: Wie verändern wir die Art, wie unsere Organisation als Ganzes arbeitet, entscheidet und Wissen aufbaut? Das ist keine technische Frage. Es ist eine strategische. Und sie verlangt eine ganz andere Kategorie von Antwort als die Auswahl eines Chatbots.

Genau hier kommt der Begriff Betriebssystem ins Spiel, und die Metapher trägt weiter, als man zunächst denkt. Das Betriebssystem eines Rechners macht im Hintergrund all das, was einzelne Programme benötigen, um überhaupt zu funktionieren: Das Betriebssystem verwaltet Ressourcen, sorgt dafür, dass Anwendungen miteinander kommunizieren, speichert Zustände und stellt sie wieder her. Ohne dieses Fundament könnten die Programme nicht funktionieren.

Bei KI ist es nicht anders. Was Unternehmen heute ausbremst, sind nicht die einzelnen Anwendungen. Es ist das fehlende Betriebssystem darunter, das Menschen, Wissen, Agenten, Workflows und Geschäftssysteme in einer gemeinsamen Umgebung verbindet - und ein dauerhaftes institutionelles Gedächtnis pflegt, auf dem alle aufbauen.

Individuelle KI und Team-KI sind zwei verschiedene Welten

Diese Unterscheidung ist mir besonders wichtig, weil sie im Markt noch nicht generell Einzug gehalten hat: individuelle KI - der private ChatGPT-Account, das einzelne Copilot-Abo - ist eine Lösung für die persönliche Produktivität. Sie hilft einem einzelnen User. Aber sie ist nicht auf die kollaborativen Arbeitsumgebungen ausgelegt, die wir in Organisationen wiederfinden und die den dortigen Arbeitsalltag prägen.

Team-KI funktioniert nach einer anderen Logik. Bei ihr entsteht durch die Nutzung aller Mitarbeitenden ein gemeinsamer Kontext, der stetig lernt und sich dynamisch verändert - und die Arbeit für KI und Mensch gleichermaßen vereinfacht. In der aktuellen Diskussion wird dies auch oft als “Harness Layer” bezeichnet. Konkret nimmt dieser unterschiedliche Formen an, etwa die eines Skills, den die Kommunikationsabteilung baut, der aber auch dem Vertrieb hilft. Oder ein Agent, den HR einrichtet, der Fragen aus dem gesamten Team beantwortet. Das institutionelle Gedächtnis wächst mit jeder Nutzung - und zwar für die gesamte Organisation.

Dieser Netzwerkeffekt ist für mich der eigentliche Kern des Betriebssystemgedankens. Und er ist der Grund, warum auch das beste individuelle Tool schlicht in einer anderen Produktkategorie verortet ist, als ein organisationsweites KI-Betriebssystem.

Ein Phänomen darf man dabei nicht unterschätzen: die Schatten-KI. Wo es keine überzeugende Unternehmenslösung gibt, greifen Mitarbeiter zu privaten Accounts und speisen sensible Daten in externe Systeme ein. Was als pragmatische Lösung beginnt, wird schnell zum Compliance-Risiko - nicht trotz, sondern wegen der schwachen offiziellen Lösung.

Fünf Fragen, die sich Unternehmen bei jedem Rollout stellen - und die kein Tool beantwortet

Sobald ein Unternehmen von der Pilotphase in die echte Einführung übergeht, stellen sich dieselben strukturellen Fragen. Und keine Stand-Alone-Lösung beantwortet mehr als zwei oder drei davon. Die folgenden Fragen halte ich für besonders entscheidend:

• Rollout-Architektur: Gibt es einen Plan, oder wurden nur Lizenzen freigeschaltet? Wo niemand führt, macht jeder, der sich nicht auskennt, einfach weiter wie bisher.

• Wer erzählt die Geschichte? Wird KI als IT-Projekt behandelt, ist sie zum Scheitern verurteilt. IT-Abteilungen wollen zumeist Stabilität, keine hundert neuen Projekte. KI braucht einen sichtbaren Treiber auf Geschäftsführungsebene, keinen Verwalter.

• Technisches Fundament: Sind Berechtigungen, Integrationen und Datenflüsse definiert? Ohne Anbindung an die Unternehmensdaten ist KI blind - sie weiß nicht, was das Unternehmen weiß.

• Wissens-Persistenz: Fließen Arbeitsergebnisse ins Unternehmenswissen zurück, oder beginnt der nächste Chat wieder bei null? Wenn jede Session neu beginnt, akkumuliert die Organisation kein Wissen.

• Skalierungspfad: Wie sieht der Weg von individuellen Chats mit KI zu agentischem Arbeiten und intelligenten Workflows mit einem unternehmensspezifischen Harness - also Wissen, Kontext und Beziehungen - aus? Einfaches Chatten funktioniert gut - genau deshalb bleiben viele dort hängen.

Wenn Ihr diese Fragen sowohl euch selbst und euren Anbietern stellt, ergibt sich aus den Antworten bald ein gutes Bild davon, wie reif eure KI-Adoption bereits ist. Wer hier klare Antworten in petto hat, ist auf gutem Wege, ein echtes KI-Betriebssystem zu etablieren.

Was ein KI-Betriebssystem wirklich ausmacht

Wenn ich erkläre, wie ein solches System aufgebaut ist, hilft das Bild von Layern, die aufeinander aufbauen. Im Kern sehe ich sechs Ebenen:

Ganz unten der Kontext-Layer, das Unternehmensgedächtnis - ein lernendes Netz aus persönlichem, projektbezogenem und unternehmensweitem Gedächtnis.

Darüber die Orchestrierungs-Layer, die komplexe Aufgaben in Teilschritte zerlegt und mehrere Agenten parallel koordiniert.

Dann der Application-Layer für das Tagesgeschäft: Tools, die beim Erstellen von Dokumenten, Präsentationen, Recherchen etc. helfen.

Der Agentic-Layer, auf dem Prozesse in natürlicher Sprache beschrieben und eigenständig ausgeführt werden.

Der Collaboration-Layer, der aus den persönlichen Werkzeugen eine gemeinsame Infrastruktur macht.

Und schließlich der Governance-Layer, der das Ganze umschließt: Berechtigungen, Markenvorgaben, Compliance, Datensouveränität.

Mir ist ein Gedanke dabei besonders wichtig: Governance bremst den Prozess hin zum KI-Betriebssystem nicht aus, sondern macht es überhaupt erst vertrauenswürdig - sowohl nach innen wie nach außen.

Und noch etwas: Ein gutes KI-Betriebssystem arbeitet modell-agnostisch. Es macht sich nicht von einem einzelnen Modell abhängig, sondern integriert die führenden und wählt das jeweils passende aus. Der Wettbewerbsvorteil entsteht eben nicht durch das Modell, sondern die Architektur drumherum - und im akkumulierten Wissen. Kommt ein besseres Modell auf den Markt, profitiert das ganze System automatisch davon. Das ist für mich der Unterschied zwischen Architekturdenken und Modelldenken.

Die DACH-Realität: stark in der Substanz, vorsichtig bei der Infrastruktur

Ich möchte hier nicht über „den Mittelstand“ urteilen, der zögert. Ganz im Gegenteil. Der deutschsprachige Mittelstand kauft Technologie nicht, weil sie neu ist, sondern wenn er verstanden hat, was sie konkret leistet. Diese Haltung ist eine Stärke. Aber im aktuellen Tempo des KI-Marktes hat sie einen Preis.

Drei Themen begegnen mir in praktisch jedem Gespräch.

Datensouveränität. Werden unsere Daten zum Training genutzt? Liegen sie auf US-Servern? Diese Fragen sind berechtigt und verdienen konkrete Antworten. Europäisches Hosting, Isolierung von Kundendaten, kein Modelltraining mit diesen Daten - das alles sind berechtigte Anforderungen. Datensouveränität ist kein Luxusthema, sondern die Grundvoraussetzung für vertrauenswürdige KI.

Der Betriebsrat. Eine Hürde, die in internationalen Playbooks kaum vorkommt, in Deutschland aber fast immer. Die Lösung ist nicht die bessere Argumentation, sondern ein Champion von ganz oben. Wo die Geschäftsführung KI zur Priorität erklärt und den Dialog aktiv gestaltet, lösen sich Blockaden.

Pilotitis. Fünf Piloten in fünf verschiedenen Abteilungen, jeder in einem eigenen Silo, keiner skaliert. Der Ausweg ist nicht der beste Pilot, sondern das beste Fundament. Wer zunächst eine gemeinsame Infrastruktur schafft, kann beliebig viele Use Cases darauf aufsetzen. Wer fünf separate Piloten hat, hat fünf separate Probleme.

Warum der frühe Start der eigentliche Hebel ist

Was mich am meisten antreibt, ist das Ziel, lernende Systeme aufzubauen. Denn ein KI-Betriebssystem ist kein Werkzeug, das nach der Einführung stagniert. Es wird, gut designed, mit jeder Nutzung präziser - jede Entscheidung, jeder verfeinerte Prompt, jeder neue Skill macht es besser.

Das bedeutet: Unternehmen, die heute anfangen, haben in zwei Jahren nicht einfach nur mehr Daten und Erfahrungen. Sie haben ein System, das ihre spezifische Arbeitsweise, Sprache und Logik verinnerlicht hat. Und das lässt sich nicht einkaufen. Es entsteht durch aktive und - ganz wichtig - reflektierte Nutzung über einen längeren Zeitraum. Wer wartet, beginnt zu diesem späteren Zeitpunkt auf einem deutlich niedrigeren Niveau -mit einem Rückstand, der sich nur schwer aufholen lässt.

Ich bin überzeugt, dass sich der Markt konsolidieren wird, so wie er es bei SaaS und Social Media getan hat. Wer heute zehn KI-Tools einsetzt, wird irgendwann feststellen, dass der Verwaltungsaufwand die Gewinne auffrisst. Die Frage ist dann nicht, ob die Konsolidierung kommt, sondern ob euer Unternehmen bereits ein Betriebssystem hat, auf dem sich aufbauen lässt - oder ob ihr von vorne anfangen müsst.

Der Scheideweg

Entscheider stehen aus meiner Sicht gerade an einem Scheideweg. Die Weichen, die in den nächsten zwölf bis vierundzwanzig Monaten gestellt werden, entscheiden darüber, wer in zwei Jahren mit einem lernenden, vernetzten KI-Betriebssystem produktiver ist - und wer der Entwicklung hinterherläuft.

Der Einstieg ist dabei kein Sprung ins kalte Wasser. Er beginnt klein: mit einem konkreten Use Case, einem klar definierten Team und einer ehrlichen Bestandsaufnahme, welche Daten vorhanden sind und welche Prozesse den größten Hebel bieten. Der Nutzen wird unmittelbar spürbar. Und von dort skaliert man.

Wenn Sie sich weiter mit dem Thema beschäftigen wollen, haben wir bei nuwacom genau das in einem E-Book ausgearbeitet: warum „KI-Tool“ die falsche Kategorie ist, wie ein KI-Betriebssystem im Detail aufgebaut ist, was die DACH-Realität von Datensouveränität bis Betriebsrat bedeutet - und die zehn Fragen, die jede Organisation beantworten sollte, bevor sie investiert.

➜ Hier könnt ihr das vollständige E-Book “Das KI-Betriebssystem” kostenlos lesen.