Model Routing
KI-Modelle werden austauschbar - der Wettbewerbsvorteil liegt in der Architektur
Kosten senken mit Model Routing und AI Gateways
Die Preise für KI-Modelle fallen, doch die Kosten für agentenbasierte KI steigen. Während immer leistungsfähigere Modelle in kürzeren Abständen auf den Markt kommen, verschiebt sich der Wettbewerbsvorteil von der reinen Modellleistung hin zur Architektur dahinter. Entscheidend wird, wie Unternehmen KI-Agenten integrieren, ihre Aktivitäten kontrollieren und den wirtschaftlichen Nutzen ihrer KI-Investitionen sicherstellen.
Ann Maya, Global Head of Strategic Projects bei Boomi , erklärt, warum Model Routing, AI Gateways und eine zentrale Governance entscheidend werden, um KI-Agenten wirtschaftlich und sicher zu betreiben.
Sinkende Token-Preise, steigende Gesamtkosten
Der Markt für künstliche Intelligenz verändert sich mit hoher Geschwindigkeit. Innerhalb einer einzigen Woche erscheinen mittlerweile vier bis fünf neue Frontier-Modelle. Gleichzeitig sorgen der zunehmende Wettbewerb, Fortschritte bei der Hardware und effizientere Inferenzverfahren sowie leistungsfähige Open-Weight-Modelle für einen deutlichen Preisverfall.
Seit 2021 sind die Token-Preise um rund 90 Prozent gesunken. Dennoch steigen in vielen Unternehmen die Ausgaben für agentenbasierte KI. Was zunächst widersprüchlich erscheint, lässt sich mit dem sogenannten Jevons-Paradoxon erklären: Sinkende Stückkosten führen häufig zu einer intensiveren Nutzung und damit zu einem insgesamt höheren Ressourcenverbrauch.
Genau diese Entwicklung zeigt sich bei KI-Agenten. Während eine klassische Chat-Interaktion vergleichsweise wenige Verarbeitungsschritte benötigt, kann ein agentenbasierter Workflow das Zehn- bis Fünfzigfache an Token verbrauchen. Agenten analysieren Informationen, planen Aufgaben, greifen auf externe Systeme zu und führen mehrstufige Prozesse aus.
Die eigentliche Herausforderung liegt deshalb nicht darin, dass KI-Modelle teurer werden. Vielmehr schafft ihre zunehmende Wirtschaftlichkeit neue Anwendungsmöglichkeiten, deren Nutzung und Betrieb zusätzliche Kosten verursachen.
Für Unternehmen bedeutet das: Wer KI-Agenten produktiv einsetzen möchte, muss ihre Wirtschaftlichkeit über den gesamten Lebenszyklus betrachten.
Der Mehrwert entsteht durch Integration und kontrollierte Zugriffe
Wie groß der Nutzen agentenbasierter KI sein kann, zeigen bereits konkrete Unternehmensanwendungen. Bei SPIE Nederland übernimmt ein Onboarding-Agent inzwischen rund 60 Prozent der Service-Desk-Anfragen ohne Eskalation. Dadurch sparen die IT- und Service-Desk-Teams nach Unternehmensangaben etwa 30 Minuten Arbeitszeit pro Tag.
Das KI-Modell wird zunehmend zur austauschbaren Ressource. Die Architektur, die daraus einen sicheren und wirtschaftlichen Geschäftsprozess macht, entwickelt sich zum eigentlichen Wettbewerbsvorteil
Auch die Culina Group setzt auf automatisierte Prozesse. Dort konnte die Bearbeitung von Incidents, für die zuvor zeitaufwendige E-Mail-Abstimmungen erforderlich waren, auf lediglich 35 Sekunden reduziert werden.
Die entscheidende Voraussetzung für solche Ergebnisse ist allerdings nicht allein die Leistungsfähigkeit des verwendeten KI-Modells.
Vielmehr benötigen Agenten einen zuverlässigen Zugriff auf relevante Unternehmensdaten, Anwendungen und Geschäftsprozesse. Gleichzeitig müssen ihre Berechtigungen klar definiert, technisch durchgesetzt und ihre Aktivitäten nachvollziehbar sein.
Besonders wichtig ist dabei die Anbindung an sogenannte Systems of Record – also jene führenden Unternehmenssysteme, in denen geschäftskritische Informationen verwaltet werden.
Erst wenn KI-Agenten mit aktuellen, konsistenten und vertrauenswürdigen Daten arbeiten können, lassen sich ihre Fähigkeiten zuverlässig in produktive Geschäftsprozesse übertragen.
Model Routing wird zum strategischen Kostenhebel
Mit der zunehmenden Verbreitung von KI-Agenten rücken die Gesamtbetriebskosten, die Total Cost of Ownership (TCO), stärker in den Mittelpunkt.
Ein wichtiger Ansatz zur Kostenoptimierung ist das sogenannte Model Routing. Dabei werden Anfragen abhängig von ihrer Komplexität, ihrem Risikoprofil und den Leistungsanforderungen an unterschiedliche KI-Modelle weitergeleitet.
Routineaufgaben wie die Klassifizierung von Support-Anfragen oder einfache Datenanalysen können kleinere, kostengünstigere Modelle übernehmen. Leistungsfähige Frontier-Modelle kommen dagegen bei komplexen Entscheidungen, anspruchsvollen Analysen oder besonders sensiblen Aufgaben zum Einsatz. Damit lassen sich Rechenressourcen gezielter einsetzen und unnötige Kosten vermeiden. Allerdings geht der Nutzen von Model Routing über wirtschaftliche Aspekte hinaus.
Da sich die Leistungsfähigkeit verfügbarer Modelle durch neue Versionen und technologische Fortschritte laufend verändert, gewinnt die flexible Auswahl an Bedeutung. Ein Modell, das heute für eine bestimmte Aufgabe besonders geeignet ist, kann bereits wenige Wochen später durch eine leistungsfähigere oder kostengünstigere Alternative ersetzt werden.
Unternehmen benötigen deshalb Architekturen, in denen sich Modelle möglichst unabhängig von den eigentlichen Geschäftsprozessen austauschen lassen.
Nicht das einzelne KI-Modell schafft den nachhaltigen Wettbewerbsvorteil, sondern die Fähigkeit, für jede Aufgabe das passende Modell einzusetzen
Open-Weight-Modelle stärken die Datensouveränität
Neben Kosten und Leistungsfähigkeit spielt die Kontrolle über Unternehmensdaten eine zunehmend wichtige Rolle. Viele Organisationen möchten verhindern, dass vertrauliche Informationen unkontrolliert an externe KI-Dienste übertragen oder für das Training öffentlich verfügbarer Modelle verwendet werden.
Intern betriebene Open-Weight-Modelle können hier eine Alternative darstellen. Sie ermöglichen Unternehmen, ausgewählte KI-Anwendungen innerhalb ihrer eigenen Infrastruktur oder in kontrollierten Cloud-Umgebungen zu betreiben.
Damit lassen sich Datenverarbeitung, Zugriffsrechte und Sicherheitsmaßnahmen stärker an interne Compliance- und Governance-Vorgaben anpassen.
Allerdings gewährleistet der interne Betrieb allein noch keine Sicherheit. Auch selbst gehostete Modelle benötigen ein durchgängiges Berechtigungsmanagement, kontinuierliche Überwachung und wirksame Schutzmaßnahmen gegen Manipulationen oder missbräuchliche Nutzung.
Die Wahlfreiheit zwischen kommerziellen, offenen, extern betriebenen und internen Modellen wird damit zu einem wichtigen Bestandteil einer souveränen KI-Strategie.
Heterogene KI-Landschaften erfordern flexible Architekturen
In Unternehmen entstehen zunehmend komplexe Multi-Agenten-Ökosysteme. Unterschiedliche KI-Agenten übernehmen spezialisierte Aufgaben, tauschen Informationen aus und greifen auf gemeinsame Datenquellen und Anwendungen zu.
Ein einzelnes Modell, eine einheitliche Laufzeitumgebung oder eine zentrale Routing-Technologie wird dabei nicht zwangsläufig allen Anforderungen gerecht.
Ähnlich wie heutige IT-Landschaften aus verschiedenen Cloud-Diensten, Anwendungen, APIs und Datenplattformen bestehen, werden auch künftige KI-Umgebungen heterogen sein.
Die entscheidende architektonische Eigenschaft ist deshalb die sogenannte Composability: Einzelne Komponenten müssen sich flexibel kombinieren, erweitern und austauschen lassen, ohne bestehende Prozesse grundlegend verändern zu müssen.
Für KI-Agenten bedeutet das, dass sie nicht als isolierte Anwendungen betrachtet werden dürfen. Sie müssen Bestandteil einer integrierten Architektur sein, die Daten, Geschäftsprozesse, Schnittstellen und Sicherheitsmechanismen miteinander verbindet.
Eine solche Architektur benötigt eine vertrauenswürdige Kontextebene, über die Agenten relevante Informationen erhalten und kontrolliert auf Werkzeuge, APIs und Ereignisse zugreifen können.
Dabei entsteht ein grundlegendes Spannungsfeld: Während KI-Agenten zunehmend dezentral Aufgaben übernehmen, muss ihre Steuerung übergreifend nachvollziehbar und kontrollierbar bleiben.
Je autonomer KI-Agenten handeln, desto wichtiger werden zentrale Sicherheitsrichtlinien und eine konsistente Governance
AI Gateways schaffen Kontrolle und Transparenz
Die zunehmende Autonomie von KI-Agenten stellt Unternehmen vor neue Sicherheits- und Governance-Anforderungen.
In vielen Organisationen existieren bereits zahlreiche KI-Anwendungen und Agenten, deren Zugriffe, Berechtigungen und Aktivitäten nicht vollständig transparent sind. Gleichzeitig benötigen diese Systeme Zugriff auf sensible Unternehmensressourcen, um einen tatsächlichen geschäftlichen Nutzen zu erzielen.
Damit entstehen zwei miteinander verbundene Herausforderungen: Einerseits fehlen Agenten häufig die erforderlichen Integrationen, andererseits besitzt die IT nicht immer ausreichende Kontrolle über bereits eingerichtete Zugriffe.
AI Gateways können helfen, diese Lücke zu schließen.
Als zentrale Kontroll- und Vermittlungsschicht zwischen KI-Anwendungen, Modellen und angebundenen Diensten ermöglichen sie die Durchsetzung von Richtlinien, die Überwachung von Modellaufrufen und die Erfassung des Ressourcenverbrauchs.
In Verbindung mit geeigneten Integrations- und Governance-Komponenten lassen sich darüber hinaus Berechtigungen kontrollieren, Interaktionen protokollieren und sicherheitsrelevante Aktivitäten nachvollziehen.
Entscheidend ist, dass Governance nicht erst nachträglich ergänzt wird, sondern von Beginn an Bestandteil der KI-Architektur ist.
Dazu gehören unter anderem Identitäts- und Zugriffsmanagement, einheitliche Sicherheitsrichtlinien, Auditierbarkeit und die Möglichkeit, Kosten einzelnen Modellen, Agenten oder Geschäftsprozessen zuzuordnen.
Gerade bei wachsender Agentenzahl wird diese Transparenz unverzichtbar. Ohne sie können Unternehmen weder die tatsächlichen Betriebskosten zuverlässig ermitteln noch den Return on Investment ihrer KI-Initiativen fundiert bewerten.
Governance muss mit der Zahl der Agenten skalieren
Ein wesentliches Risiko entsteht, wenn die Einführung neuer KI-Agenten schneller voranschreitet als der Aufbau geeigneter Kontrollmechanismen.
Jeder zusätzliche Agent kann neue Verbindungen zu Unternehmenssystemen, weitere Berechtigungen und zusätzliche Abhängigkeiten schaffen. Dadurch wächst nicht nur die technische Komplexität, sondern auch die potenzielle Angriffsfläche. Besonders kritisch wird dies, wenn Agenten eigenständig Aktionen ausführen, Informationen zwischen Systemen übertragen oder andere Agenten beauftragen können. Unternehmen benötigen deshalb eine Governance, die über die reine Kontrolle einzelner Modellaufrufe hinausgeht. Erforderlich sind durchgängige Mechanismen zur Verwaltung von Agentenidentitäten, zur Begrenzung von Berechtigungen und zur Überwachung ausgeführter Aktionen.
Auch der wirtschaftliche Aspekt muss berücksichtigt werden: Welche Agenten verursachen welche Kosten? Welche Geschäftsprozesse profitieren tatsächlich von ihrer Nutzung? Und an welchen Stellen übersteigt der Ressourcenverbrauch den erzielten Mehrwert? Erst die Verbindung von technischer Kontrolle, Sicherheitsmanagement und betriebswirtschaftlicher Transparenz ermöglicht einen nachhaltigen Betrieb agentenbasierter KI.
Anbieter wie Boomi adressieren diese Anforderungen mit integrierten Plattformansätzen, die Konnektivität, Datenintegration und Governance zusammenführen. Ziel ist es, Sicherheitsrichtlinien möglichst zentral durchzusetzen und den Aufwand für den Aufbau individueller Kontrollmechanismen zu reduzieren. Allerdings hängt die Wirksamkeit solcher Ansätze davon ab, welche Modell-, Agenten- und Systeminteraktionen tatsächlich erfasst und kontrolliert werden können.
Fazit: Die KI-Architektur entscheidet über den Wettbewerbsvorteil
Die zunehmende Leistungsfähigkeit und Verfügbarkeit von KI-Modellen verändert die wirtschaftlichen Grundlagen künstlicher Intelligenz.
Während einzelne Modelle immer schneller austauschbar werden, gewinnen Integration, Orchestrierung, Datensouveränität und Governance an strategischer Bedeutung.
Der entscheidende Wettbewerbsvorteil entsteht künftig nicht durch den exklusiven Zugriff auf ein besonders leistungsfähiges Modell. Er liegt vielmehr in der Fähigkeit, unterschiedliche Modelle und Agenten sicher, wirtschaftlich und flexibel in bestehende Geschäftsprozesse einzubinden. Dafür benötigen Unternehmen offene, integrierte Plattformarchitekturen, die zentrale Kontrolle mit dezentraler Produktivität verbinden.Wer Kosten, Identitäten, Zugriffe und Agentenaktivitäten übergreifend steuern kann, schafft die Grundlage für skalierbare KI-Anwendungen – auch jenseits technischer Spezialabteilungen.
