Vom KI-Piloten zum Produktivbetrieb: Wo Unternehmen tatsächlich Geld verlieren

Von André Holhozinskyj, CEO, Cloudflight Group

Ein Drittel der Unternehmen, die Künstliche Intelligenz einsetzen, berichtet laut Bitkom von deutlich höheren Kosten als erwartet. Die naheliegende Erklärung wäre, dass Modelle und Lizenzen teurer geworden sind. Tatsächlich liegt es daran, dass diese Unternehmen einen Piloten kalkuliert und dabei übersehen haben, dass im laufenden Betrieb ganz andere Kosten anfallen.

Ein Prototyp ist heute in wenigen Wochen gebaut: Modell auswählen, Daten anbinden, einen Anwendungsfall bauen, und am Ende steht etwas, das funktioniert. Beantwortet ist damit allerdings nur die technische Frage, ob die KI die Aufgabe grundsätzlich lösen kann. Was es kostet, dieselbe Leistung dauerhaft zu erbringen, für alle Nutzer, mit geregelten Zugriffen und nachweisbarer Kontrolle, steht meistens nicht im Prototyp und wird trotzdem regelmäßig aus ihm abgeleitet.

Wo die Kosten für KI tatsächlich anfallen, zeigt eine weitere Bitkom-Erhebung unter 603 deutschen Unternehmen ab 20 Beschäftigten. 51 Prozent der Anwender nennen Infrastruktur wie Cloud und Rechenleistung als großen Kostenpunkt, 50 Prozent die Aufbereitung von Daten und 41 Prozent die Integration in bestehende Systeme. Abonnements und Lizenzen für KI-Software hingegen nennen nur 21 Prozent, gleichauf mit externer Beratung. Der Token-Verbrauch, über den gerade sehr viel diskutiert wird, ist lediglich für acht Prozent ein großer Kostenpunkt. Daran kann man klar erkennen: Die teuren Posten sind also genau jene, die im Prototyp noch nicht existieren.

Warum Sicherheit im KI-Projekt als Bremse erscheint

Dieselbe Erhebung fragt die Anwender nach ihren größten Hindernissen im laufenden Betrieb, und die Rangfolge der Antworten dürfte jedem Sicherheitsverantwortlichen bekannt vorkommen. An erster Stelle stehen Anforderungen an den Datenschutz mit 66 Prozent, gefolgt von rechtlicher Verunsicherung mit 56 Prozent. 45 Prozent sorgen sich, dass Unternehmensdaten in falsche Hände geraten, 25 Prozent bemängeln, dass sich die Ergebnisse ihrer Systeme nicht nachvollziehen lassen.

Dass ausgerechnet diese Punkte KI-Projekte so zuverlässig aufhalten, hat einen strukturellen Grund. Im Prototyp existiert oft keiner von ihnen. Der Pilot arbeitet mit einem Datenausschnitt, den jemand einmalig freigegeben hat, mit einer kleinen Testgruppe, deren Berechtigungen nur dafür relevant sind, und ohne jede Nachweispflicht, weil noch keine Entscheidung von ihm abhängt. Zugriffskonzepte, Protokollierung und Prüfbarkeit kommen erst dazu, wenn das System produktiv gehen soll.

Was danach passiert, folgt in vielen Unternehmen demselben Muster. Die Informationssicherheit meldet Anforderungen an, die sachlich richtig sind, das Projekt wird dadurch teurer und langsamer, und am Ende gilt die Sicherheit als der Grund, warum es nicht vorangeht. Der eigentliche Fehler liegt jedoch weiter zurück: Der Business Case war von Anfang an unvollständig.

Fünf Posten fehlen fast immer:

1. Berechtigungen klärt besser der Fachbereich, nicht die IT

Im Piloten spielt keine Rolle, wer was sieht. Im Betrieb schon, denn dort greifen hunderte Menschen mit unterschiedlichen Rollen auf dieselben Daten zu. Für jede Datenquelle muss deshalb festgelegt werden, welche Rolle sie abfragen darf. Das kann nur der Fachbereich entscheiden, und das dauert Zeit. Ohne diese Vorarbeit und Festlegung gibt das System Auskünfte an Menschen, die dafür keine Berechtigung haben.

2. Für die Datenbasis braucht es eine benannte Zuständigkeit

Im Piloten sind die Daten einmal aufbereitet und bleiben es. Im Betrieb ändern sie sich laufend: Neue Richtlinien kommen hinzu, alte werden ungültig. Ist dafür niemand zuständig, bleibt eine ungültige Richtlinie im System und wird weiter ausgegeben. Merken wird es erst mal niemand, weil die Antwort richtig klingt.

3. Nachvollziehbarkeit kostet einmal und spart dauerhaft

Ohne Quellenangabe muss jede wichtige Auskunft nachgeprüft werden. Mit Quellenangabe genügt ein Blick. Die Protokollierung wirkt genauso: Sie zeigt im Streitfall, worauf eine Auskunft beruht und deckt zugleich die Nachweispflichten gegenüber Audits ab. Beides kostet in der Entwicklung einmal Geld und spart es im Betrieb täglich.

4. Die Anzahl der Sonderfälle treibt die Kosten in die Höhe

Kein System löst alle Fälle. Wie groß aber der Anteil ist, zeigt der Pilot nicht, weil er mit einfachen Fällen getestet wird. Im Betrieb kommen die Schwierigen dazu. Ob am Ende 90 oder 60 Prozent automatisch laufen, macht bei den Betriebskosten aber jeweils den entscheidenden Unterschied.

5. Während des laufenden Betriebs verändert sich viel

Modelle werden abgelöst, Schnittstellen ändern sich, Datenbestände verschieben sich. Ein produktives KI-System braucht deshalb Monitoring, regelmäßige Qualitätsprüfung und einen Plan für den Fall, dass das genutzte Modell nicht mehr verfügbar ist. Diesen Fall haben wir bei Cloudflight selbst erlebt, als der Zugang zu einem großen US-Modell eingeschränkt wurde. Über unser eigenes AI Gateway sind wir kurzfristig auf ein europäisches Modell gewechselt, ohne spürbare Auswirkung für unsere Kunden. Möglich war das, weil die Austauschbarkeit von Anfang an eingeplant war. Wer sie nicht einplant, erfährt von seiner Abhängigkeit an dem Tag, an dem sie zum Problem wird.

Der EU AI Act macht aus einigen dieser Posten Pflichten mit Frist

Über Umfang und Zeitpunkt dieser Posten lässt sich verhandeln, bei dreien von ihnen allerdings nur noch begrenzt. Seit August 2026 gilt Artikel 50 des EU AI Act. Er verlangt zweierlei: Menschen müssen erfahren, wenn sie mit einer KI sprechen. Und was eine KI an Texten, Bildern oder Tönen erzeugt, muss maschinenlesbar als KI-Inhalt markiert sein. Damit ist der Posten Nachvollziehbarkeit keine freiwillige Investition mehr. Für Systeme, die vor August schon liefen, läuft die Frist dafür am 2. Dezember 2026 ab.

Die zweite Stufe folgt später und betrifft nur Hochrisiko-Systeme. Für sie verlangt der AI Act eine dokumentierte menschliche Aufsicht und eine laufende Überwachung im Betrieb. Das sind die Posten Sonderfälle und Betrieb. Wer heute festlegt, wie viele Fälle ein Mensch prüft und wie das System überwacht wird, erfüllt die Anforderung nebenbei mit. Die Fristen beginnen im Dezember 2027.

Sicherheit gehört in die erste Version der Rechnung

Eine KI-Anwendung rechnet sich, wenn sie eine Aufgabe zuverlässig erledigt und einen messbaren wirtschaftlichen Effekt erzeugt, auch dann, wenn das eingesetzte Modell nicht das billigste ist. Umgekehrt wird eine günstige Anwendung teuer, sobald sie aufwendig abgesichert und nachbearbeitet werden muss.

Wer die genannten Posten von Anfang an im Business Case führt, bezahlt sie zum kalkulierten Preis und kann sie über die Projektlaufzeit verteilen. Wer sie ausklammert, bezahlt sie später und dann oft unter Zeitdruck. Für Unternehmen, die KI produktiv einsetzen wollen, folgt daraus eine einfache Konsequenz: Die Informationssicherheit gehört an den Tisch, bevor der Prototyp gebaut wird.