Open Retrieval
Open Retrieval verbessert die Datenversorgung und Wirtschaftlichkeit von KI-Agenten
KI-Kosten senken und die Performance von KI-Agenten optimieren
KI-Agenten sollen Geschäftsprozesse beschleunigen, doch ineffiziente Datenabfragen können ihre Wirtschaftlichkeit erheblich beeinträchtigen. Je häufiger KI-Systeme auf unpassende oder unvollständige Informationen zugreifen, desto mehr Rechenleistung und Tokens werden verbraucht – ohne dass die Qualität der Ergebnisse steigt. Open Retrieval setzt genau hier an und könnte zu einem entscheidenden Baustein für leistungsfähige und wirtschaftliche KI-Architekturen werden.
Markus Müller, Global Field CTO API Management bei Boomi , erklärt, warum die Zukunft wirtschaftlicher KI nicht allein vom Modell, sondern zunehmend von der Qualität des Datenzugriffs abhängt.
Warum die Datenversorgung zum Kostenfaktor wird
Mit der zunehmenden Integration generativer KI in Geschäftsprozesse rückt neben der Leistungsfähigkeit auch die Wirtschaftlichkeit der eingesetzten Modelle in den Mittelpunkt. Insbesondere bei rechenintensiven Frontier-KI-Modellen können sich hohe Nutzungsvolumina schnell auf die Betriebskosten auswirken.
Viele Unternehmen reagieren darauf mit strengeren Governance-Vorgaben, Token-Budgets für Mitarbeiter oder intelligenten KI-Routern, die Anfragen je nach Komplexität an günstigere Modelle weiterleiten. Andere setzen verstärkt auf eigene KI-Anwendungen, um Nutzung und Ausgaben besser kontrollieren zu können.
Doch diese Maßnahmen greifen häufig zu kurz. Denn ein wesentlicher Kostenfaktor entsteht bereits, bevor ein KI-Modell überhaupt mit der eigentlichen Verarbeitung einer Anfrage beginnt: bei der Suche nach den benötigten Informationen.
Anders als klassische Chatbots greifen autonome KI-Agenten während ihrer Aufgabenbearbeitung wiederholt auf Datenquellen zu. Sie benötigen Informationen, um Entscheidungen vorzubereiten, externe Werkzeuge einzusetzen, Zwischenergebnisse zu überprüfen oder bereits vorhandenes Wissen abzurufen.
Der entscheidende Wettbewerbsvorteil entsteht damit nicht allein durch das leistungsfähigste KI-Modell, sondern durch eine Architektur, die zur richtigen Zeit die richtigen Informationen bereitstellt – effizient, nachvollziehbar und wirtschaftlich
Jede unpräzise Suche kann dabei eine Kettenreaktion auslösen. Liefert das System irrelevante Informationen, muss der Agent weitere Abfragen durchführen oder unnötig große Datenmengen verarbeiten. Das erhöht den Token-Verbrauch, verlängert die Bearbeitungszeit und kann die Qualität der Ergebnisse beeinträchtigen.
Damit wird die Qualität des Informationsabrufs zu einer wirtschaftlichen Kenngröße für agentenbasierte KI-Systeme.
Open Retrieval optimiert den Zugriff auf Unternehmenswissen
Die Lösung besteht nicht darin, leistungsfähige Frontier-KI-Modelle grundsätzlich durch kleinere Alternativen zu ersetzen. Gerade bei komplexen Analysen und anspruchsvollen Schlussfolgerungen bleiben diese Modelle wertvoll. Entscheidend ist vielmehr, wie Unternehmen ihre KI-Systeme mit Informationen versorgen.
Bislang werden große Mengen unstrukturierter Unternehmensdaten häufig erst im Rahmen einer konkreten KI-Anfrage verarbeitet. Dieses Vorgehen kann ineffizient sein, insbesondere wenn externe Modelle umfangreiche Dokumente analysieren müssen, obwohl nur wenige Informationen für die eigentliche Aufgabe relevant sind.
Open Retrieval verfolgt einen anderen Ansatz. Unternehmensdaten werden zunächst aufbereitet, indexiert und für eine gezielte semantische Suche erschlossen. Präzise Embedding-Modelle wandeln Inhalte und Suchanfragen in mathematische Repräsentationen um, sodass sich Informationen anhand ihrer inhaltlichen Bedeutung auffinden lassen.
Offene Embedding-Modelle ermöglichen es Unternehmen dabei, geeignete Technologien unabhängig von proprietären Modellangeboten auszuwählen und die Kosten für die Datenaufbereitung und Suche gezielt zu optimieren.
Das Ergebnis: KI-Agenten erhalten möglichst nur den Kontext, den sie tatsächlich für ihre Aufgabe benötigen. Dadurch lässt sich die Menge unnötig übertragener Informationen reduzieren, während relevante Unternehmensdaten schneller verfügbar werden.
Warum präzise Embedding-Modelle entscheidend sind
Die Leistungsfähigkeit dieses Ansatzes hängt wesentlich von der Qualität der eingesetzten Embedding-Modelle ab.
Sie bestimmen, wie gut das System die semantische Beziehung zwischen einer Anfrage und den vorhandenen Unternehmensinformationen erkennt. Je präziser diese Zuordnung funktioniert, desto wahrscheinlicher ist es, dass ein KI-Agent bereits beim ersten Abruf die benötigten Inhalte erhält.
Ungenaue Modelle können dagegen wichtige Informationen übersehen oder Dokumente liefern, die zwar ähnliche Begriffe enthalten, aber für die konkrete Fragestellung wenig hilfreich sind.
Die Folgen reichen über die Antwortqualität hinaus. Jeder zusätzliche Suchversuch benötigt Ressourcen und kann weitere Verarbeitungsschritte auslösen. Bei KI-Agenten, die während eines einzigen Workflows zahlreiche Entscheidungen treffen und immer wieder Daten abrufen, summieren sich diese Ineffizienzen.
Open Retrieval kann deshalb einen doppelten Effekt erzielen: Die Qualität der bereitgestellten Informationen steigt, während sich der Token-Bedarf für die nachgelagerte Verarbeitung reduzieren lässt. Wie groß die tatsächliche Einsparung ausfällt, hängt allerdings von der jeweiligen Anwendung, der Datenqualität und der eingesetzten Retrieval-Architektur ab.
Unternehmenswissen gezielt für KI-Agenten verfügbar machen
Wie sich dieser Ansatz praktisch umsetzen lässt, zeigt beispielsweise der Boomi Knowledge Hub. Die Lösung integriert Unternehmensdaten aus unterschiedlichen Quellsystemen, indexiert die Inhalte und stellt KI-Agenten zum Zeitpunkt einer Anfrage relevanten Kontext bereit.
Dabei können Informationen mit Quellenverweisen versehen werden, sodass nachvollziehbar bleibt, auf welcher Datengrundlage ein Agent seine Ergebnisse erzeugt.
Für Unternehmen ist das aus zwei Gründen relevant. Einerseits müssen KI-Agenten nicht ausschließlich auf das allgemeine Wissen ihrer zugrunde liegenden Sprachmodelle zurückgreifen. Andererseits lassen sich Antworten stärker an den tatsächlich vorhandenen Unternehmensinformationen ausrichten.
Ein weiterer Bestandteil ist die Auswahl geeigneter Embedding-Modelle. Unterschiedliche Modelle bieten jeweils spezifische Stärken hinsichtlich Genauigkeit, Sprachunterstützung, Geschwindigkeit und Kosten.
Ein erweiterbarer Modellkatalog ermöglicht es, diese Eigenschaften an die jeweiligen Anforderungen anzupassen. Unternehmen können beispielsweise Modelle bevorzugen, die besonders gut mit deutschsprachigen Fachdokumenten umgehen oder für bestimmte Informationsbestände optimiert sind.
Managed Services können zudem den Aufwand für den Betrieb der erforderlichen Infrastruktur reduzieren. Unternehmen müssen dann nicht sämtliche Komponenten für die Verarbeitung, Indexierung und semantische Suche selbst bereitstellen.
Governance und Kostenkontrolle müssen zusammenspielen
Mit zunehmender Autonomie von KI-Agenten verändert sich auch die Bedeutung der zugrunde liegenden Datenarchitektur.
Wenn Agenten Informationen nicht nur für einzelne Antworten, sondern als Grundlage eigenständiger Aktionen verwenden, wird der kontrollierte Zugriff auf Unternehmenswissen besonders wichtig.
Eine zentrale Retrieval-Schicht kann dabei helfen, Datenzugriffe zu strukturieren, Quellen nachvollziehbar zu machen und die Bereitstellung von Informationen an definierte Richtlinien zu binden. Voraussetzung ist allerdings, dass Berechtigungen, Datenschutzanforderungen und Sicherheitskontrollen konsequent in die Architektur integriert werden.
Denn präzise Informationen allein garantieren noch keine sicheren Entscheidungen. Auch ein KI-Agent, der fachlich korrekte Daten erhält, kann problematische Aktionen ausführen, wenn ihm zu weitreichende Berechtigungen eingeräumt werden oder Kontrollmechanismen fehlen.
Open Retrieval sollte daher nicht isoliert als Instrument zur Kostensenkung betrachtet werden, sondern als Bestandteil einer umfassenden Architektur für leistungsfähige, kontrollierbare KI-Systeme.
Fazit: Die Wirtschaftlichkeit von KI beginnt beim Kontext
Unternehmen müssen ihre KI-Strategien zunehmend daran messen, welchen wirtschaftlichen Nutzen die eingesetzten Systeme tatsächlich liefern. Die Auswahl leistungsfähiger Sprachmodelle bleibt wichtig, ist aber nur ein Teil der Gleichung.
Mindestens ebenso entscheidend ist, wie effizient KI-Agenten auf relevantes Unternehmenswissen zugreifen können. Präzise Embedding-Modelle, strukturierte Datenbestände und kontrollierte Retrieval-Prozesse schaffen dafür eine wichtige Grundlage.
Open Retrieval eröffnet Unternehmen die Möglichkeit, die Stärken leistungsfähiger Frontier-KI-Modelle gezielter einzusetzen, ohne bei jeder Anfrage unnötig große Datenmengen verarbeiten zu müssen.
