KI-Betriebssystem: 5 Schichten im Überblick

Wer KI im Unternehmen einsetzen will, hat es nicht mit einem Tool zu tun — sondern mit einem System aus fünf Schichten. Wer die Schichten kennt, kann Architektur-Entscheidungen treffen statt Hype-Werkzeuge zu kaufen.

Hinweis zur Quelle: Das hier beschriebene 5-Schichten-Modell ist eine pragmatische Strukturierung, wie sie aktuell in der KI-Architektur-Praxis verbreitet ist. Es ist KEIN offizieller Standard (wie z.B. ISO/IEEE 42010), sondern ein Erklär-Modell, das Mittelständlern hilft, KI-Systeme über das einzelne Tool hinaus zu denken. Quellen-Bibliografie auf Anfrage.

Warum „KI-System“ und nicht „KI-Tool“

Wenn ein Unternehmen einen „KI-Chatbot“ einführt, baut es kein isoliertes Tool. Es baut ein KI-System mit fünf Schichten, die alle stimmen müssen. Wer die Schichten nicht kennt, kauft ein Produkt — und merkt erst nach Monaten, dass die unteren Schichten fehlen.

Schicht 1 (oben): Interface Layer — die Interaktion

Der Einstiegspunkt für User und Systeme. Das ist die sichtbare Schicht — Chat-Eingabe, Spracheingabe, Oberflächen, API und Webhooks.

Wichtig zu verstehen: das Interface ist NICHT die KI. Es ist nur die Tür, durch die die Anfrage hineingeht. Die Antwort kommt aus den vier Schichten darunter. Wer „wir nutzen ChatGPT“ sagt, meint typischerweise nur das Interface.

Schicht 2: Orchestrierung und Agenten — Entscheiden und Planen

Die Orchestrierungs-Schicht ist das Gehirn, das entscheidet was passiert. Sie delegiert Aufgaben, koordiniert Skills und orchestriert Tools über mehrere Schritte hinweg.

Beispiel: Der Nutzer fragt „Was war der Umsatz im April?“ — die Orchestrierung entscheidet: erst ERP-System abfragen, dann Zahlen formatieren, dann verständlich antworten. Drei Schritte, eine Anfrage.

Agentische KI lebt in dieser Schicht. Sie macht den Unterschied zwischen einem einfachen Chatbot und einem echten KI-Assistenten.

Schicht 3: Skill- und Tool-Layer — Ausführung konkreter Aufgaben

Diese Schicht macht die tatsächliche Arbeit: Prozesse ausführen, Aktionen auslösen, Integrationen nutzen, Automationen starten.

Beispiel-Skills: ERP-Abfrage, Email versenden, PDF generieren, Kalender-Termin anlegen. Jede dieser Aktionen ist ein eigener Skill — und Skills lassen sich kombinieren, um komplexe Workflows zu bauen.

Die Qualität dieser Schicht entscheidet, was das KI-System überhaupt KANN. Ohne Skills bleibt KI eine Chat-Maschine ohne Hände.

Schicht 4: KI-Modelle — Spezialisierte Modelle

Hier liegt die eigentliche „Intelligenz“ — Modelle wie GPT-5, Claude, Gemini oder spezialisierte Modelle für Klassifikation, Bilderzeugung oder Code-Generierung.

Wichtig: Die meisten produktiven KI-Systeme nutzen NICHT EIN Modell, sondern mehrere. Ein großes Sprach-Modell für Verständnis, ein spezialisiertes für Klassifikation, eines für Bild-Generierung. Die Orchestrierungs-Schicht entscheidet, welches Modell wann zum Einsatz kommt.

Schicht 5 (unten): Daten- und Kontext-Layer — Dokumente und Wissen

Die Basis-Schicht ist die Wissens-Schicht: Vektordatenbanken, Retrieval-Mechanismen, Historien und Kontextdaten. Hier liegen die unternehmenseigenen Daten, die KI für gute Antworten braucht.

Diese Schicht ist oft die unterschätzteste — und oft der Engpass. Ohne gute Daten-Schicht liefert das KI-System generische Antworten, weil es nichts Unternehmens-spezifisches weiß.

Zwei Querschnitts-Themen

Regeln und Steuerung

Vertikal über alle Schichten: Zugriffsrechte, Rollen, Entscheidungsgrenzen, Validierung, Freigaben. Wer darf was? Welche Entscheidungen müssen menschlich freigegeben werden? Diese Schicht ist EU-AI-Act-relevant und entscheidet, wie sicher das System ist.

Transparenz und Kontrolle

Ebenfalls vertikal: Nachvollziehbarkeit, Qualitätssicherung, Nutzungsübersicht. Welche Entscheidungen hat die KI getroffen? Lässt sich nachvollziehen warum? Können Auditoren das prüfen? Diese Schicht ist Pflicht für Hochrisiko-KI nach EU AI Act.

Was Mittelständler aus dem Modell mitnehmen

Drei Erkenntnisse für die Praxis:

• „Wir kaufen ChatGPT“ ist meist ein Interface-Kauf — die anderen vier Schichten muss man selbst aufsetzen oder über Plattform-Anbieter beziehen.
• Investitions-Engpass ist oft die Daten-Schicht — nicht das Modell. Wer in Modelle investiert, aber Daten-Schicht ignoriert, baut auf Sand.
• Regeln und Transparenz sind nicht optional — sie ziehen sich durch alle Schichten und müssen von Anfang an mitgedacht werden.