Studie zeigt Defizite bei Governance, ROI und Verantwortlichkeit

KI-Agenten sollen Finanzabteilungen produktiver machen, Prozesse automatisieren und messbare Ergebnisse liefern. Doch der wirtschaftliche Erwartungsdruck wächst offenbar schneller als die notwendigen Kontrollmechanismen. Eine internationale Avalara-Umfrage zeigt: Viele Finanzverantwortliche treiben den Einsatz agentischer KI voran, obwohl Verantwortlichkeiten, Prüfpfade und interne Kompetenzen noch nicht ausreichend geklärt sind.

Finanzabteilungen geraten beim Einsatz von KI-Agenten zunehmend unter Zugzwang. Neun von zehn Finanzverantwortlichen müssen nach eigenen Angaben belegen, dass ihre Investitionen in agentische KI einen messbaren Return on Investment erzielen. Gleichzeitig stellt nur eine kleine Minderheit der Unternehmen Governance und Kontrolle über die Geschwindigkeit der Einführung.

Das geht aus dem neuen Avalara-Bericht „Agents of Change: How the Race to Deploy AI Agents is Outrunning Financial Governance “ hervor. Für die Untersuchung befragte Censuswide mehr als 1.500 CFOs und leitende Finanzverantwortliche in den USA, Großbritannien, Indien und Australien.

Alle Befragten hatten innerhalb der vergangenen zwölf Monate KI-Agenten in Finanzprozessen eingesetzt, pilotiert oder deren Einführung aktiv geprüft.

Hoher Erwartungsdruck, bislang begrenzter ROI

Die Ergebnisse zeigen zunächst, wie stark der wirtschaftliche Druck auf Finanzverantwortliche inzwischen ist. Insgesamt 92 Prozent der Befragten verspüren einen moderaten oder erheblichen beruflichen Druck, einen positiven ROI ihrer Investitionen in KI-Agenten nachzuweisen. Rund die Hälfte bewertet diesen Druck sogar als erheblich.

Dabei bleiben die bisher erzielten Ergebnisse offenbar häufig hinter den Erwartungen zurück. Jeder zweite Befragte gibt an, dass die bisherigen Initiativen mit KI-Agenten lediglich einen begrenzt messbaren wirtschaftlichen Nutzen erbracht hätten.

Trotzdem konzentriert sich der Druck in vielen Organisationen vor allem auf eine möglichst schnelle Einführung. 71 Prozent der Finanzverantwortlichen zufolge steht das Implementierungstempo stärker im Mittelpunkt als andere Aspekte des Einsatzes.

Damit entsteht ein problematisches Spannungsfeld: Unternehmen wollen die Vorteile agentischer KI möglichst früh nutzen, verfügen aber vielfach noch nicht über geeignete Prozesse, Kontrollmechanismen und Zuständigkeiten.

Nur sieben Prozent priorisieren Governance

Besonders deutlich wird die Diskrepanz beim Blick auf die internen Governance-Strukturen. Lediglich sieben Prozent der Befragten sagen, dass ihr Unternehmen Governance über die Geschwindigkeit der KI-Einführung stellt.

Gleichzeitig haben 30 Prozent ihre internen Kontrollen im vergangenen Jahr nicht daran angepasst, dass KI-Agenten eigenständig Maßnahmen empfehlen oder ausführen können.

Auch die Erklärbarkeit bleibt eine Herausforderung. 44 Prozent der Finanzverantwortlichen sind nur einigermaßen zuversichtlich, dass sie die Handlung eines KI-Agenten gegenüber Wirtschaftsprüfern oder Aufsichtsbehörden nachvollziehbar erklären könnten.

Gerade in den Bereichen Steuern, Rechnungswesen und Compliance ist das ein erhebliches Risiko. Entscheidungen müssen dort nicht nur fachlich korrekt sein, sondern sich häufig auch Monate oder Jahre später noch vollständig rekonstruieren lassen.

„Finanzverantwortliche tun gut daran, schnell zu handeln, um die Chancen der agentischen KI zu nutzen. Doch Tempo ohne Verantwortlichkeit schafft neue Risiken, und Geschwindigkeit ohne ein Überdenken der Arbeitsabläufe begrenzt den ROI“, erklärt Hugo Sarrazin, Chief Executive Officer von Avalara .

Organisationen würden nicht automatisch dadurch erfolgreicher, dass sie möglichst viele KI-Agenten einsetzen. Entscheidend seien vielmehr vertrauenswürdige Daten, eindeutig geregelte Arbeitsabläufe und klar definierte Kontrollen.

Wer haftet für Fehler eines KI-Agenten?

Die Einführung autonom handelnder Systeme wirft zudem eine grundlegende Verantwortungsfrage auf. Wer trägt die Konsequenzen, wenn ein KI-Agent eine falsche Steuerberechnung vornimmt, eine Compliance-Anforderung übersieht oder eine fehlerhafte finanzielle Entscheidung vorbereitet?

Fast ein Viertel der Befragten, insgesamt 23 Prozent, gibt an, dass die Verantwortlichkeit bei einem schwerwiegenden Fehler eines KI-Agenten unklar wäre oder bei niemandem läge.

Weitere 16 Prozent gehen davon aus, dass letztlich die Führungskraft persönlich verantwortlich gemacht würde, die die betreffende KI-Investition genehmigt hat.

Diese Unsicherheit zeigt, dass viele Organisationen bislang keine belastbaren Zuständigkeitsmodelle für agentische Systeme entwickelt haben. Technische Verantwortung, fachliche Freigabe und Managementhaftung sind häufig nicht eindeutig voneinander abgegrenzt.

Internes KI-Wissen fehlt

Ein weiteres Problem ist der Mangel an internem Fachwissen. 76 Prozent der befragten Finanzverantwortlichen verfügen nach eigener Einschätzung nicht über ausreichende Kompetenzen innerhalb der eigenen Abteilung, um zu verstehen, wie die eingesetzten KI-Agenten tatsächlich funktionieren.

Stattdessen verlassen sie sich auf IT-Abteilungen oder externe Technologieanbieter.

Das kann zu neuen Abhängigkeiten führen. Finanzverantwortliche bleiben zwar für Prozesse und Ergebnisse zuständig, können die zugrunde liegenden Systeme aber möglicherweise nur eingeschränkt beurteilen.

„Von Finanzverantwortlichen wird verlangt, bei KI schnell voranzukommen. Doch um Agenten zu steuern, braucht es ein neues Zusammenspiel aus Fachwissen sowie Kompetenzen in KI, IT und Data Governance“, sagt Frank Cirone, VP Commercial Strategy beim Cloud-Datenanbieter Snowflake.

Organisationen müssten genau festlegen, auf welche Daten KI-Agenten zugreifen dürfen, welche Aktionen sie selbstständig ausführen können und wann eine menschliche Freigabe erforderlich ist. Diese Kontrollmechanismen müssten von Beginn an Bestandteil der technischen Architektur sein und dürften nicht erst nachträglich ergänzt werden.

Finanzverantwortliche verlangen Vertrauen und Nachvollziehbarkeit

Die Umfrage zeigt jedoch auch, dass Finanzverantwortliche den Einsatz von KI-Agenten grundsätzlich nicht bremsen wollen. Vielmehr suchen sie nach Möglichkeiten, die Technologie kontrolliert, nachvollziehbar und in größerem Umfang einzusetzen.

Auf die Frage, welche Funktionen das Vertrauen in KI-Agenten erhöhen würden, nannten die Befragten vor allem:

• KI-Agenten, die innerhalb bestehender führender Geschäftssysteme arbeiten: 27 Prozent
• Ergebnisse auf Basis verifizierter Steuer-, Compliance- und Finanzdaten: 25 Prozent
• automatischer Abgleich mit bekannten Compliance-Vorgaben: 25 Prozent
• Zusagen der Anbieter zu Genauigkeit und Verantwortlichkeit: 24 Prozent
• vollständige Prüfpfade für sämtliche Aktionen eines KI-Agenten: 23 Prozent

Als besonders wertvoll gelten eine prüfungssichere Dokumentation jeder KI-gesteuerten Aktion sowie die automatische Überwachung regulatorischer Veränderungen mit Aktualisierungen in Echtzeit. Jeweils 30 Prozent der Befragten stuften diese Funktionen als besonders wichtig ein.

Damit verschiebt sich die Diskussion um agentische KI. Im Vordergrund steht nicht mehr allein die Frage, welche Aufgaben ein KI-Agent technisch ausführen kann. Zunehmend entscheidend ist, ob Unternehmen seine Entscheidungen kontrollieren, nachvollziehen und gegenüber internen sowie externen Prüfern erklären können.

„Während Unternehmen agentische KI skalieren, geht es weniger um die Frage, ob die Technologie handeln kann, als vielmehr darum, ob Organisationen diese Handlungen verstehen, kontrollieren und erklären können“, erklärt Jim Lundy, Gründer, CEO und Lead Analyst bei Aragon Research.

Gerade im Finanzbereich entwickelten sich Governance und Erklärbarkeit damit von optionalen Sicherheitsmerkmalen zu grundlegenden Voraussetzungen für den produktiven Einsatz.

Governance by Design statt nachträglicher Kontrolle

Die Ergebnisse der Avalara-Studie verdeutlichen, dass die Einführung von KI-Agenten nicht allein als Automatisierungsprojekt betrachtet werden darf. Sobald Systeme selbstständig Daten analysieren, Empfehlungen aussprechen oder Aktionen ausführen, verändern sich auch Verantwortlichkeiten, Kontrollprozesse und Prüfanforderungen.

Unternehmen benötigen deshalb klare Rollenmodelle, nachvollziehbare Entscheidungswege und technische Begrenzungen für autonome Systeme. Dazu gehören Freigabeschwellen, Protokollierung, Datenzugriffskontrollen, kontinuierliche Überwachung und definierte Möglichkeiten zum menschlichen Eingreifen.

Ohne diese Grundlagen droht agentische KI zwar einzelne Arbeitsschritte zu beschleunigen, gleichzeitig aber neue operative, regulatorische und haftungsrechtliche Risiken zu erzeugen.

Der langfristige ROI dürfte deshalb nicht davon abhängen, wie schnell Unternehmen KI-Agenten einsetzen. Entscheidend wird sein, ob sie Geschwindigkeit mit überprüfbarer Kontrolle, fachlicher Verantwortung und belastbarer Datenqualität verbinden.

Methodik der Umfrage

Censuswide befragte für die Untersuchung 1.505 CFOs und leitende Finanzverantwortliche ab 30 Jahren in Unternehmen mit einem Jahresumsatz von mehr als zehn Millionen US-Dollar.

Die Befragten kamen aus Großbritannien, den USA, Australien und Indien. Sie waren unter anderem in den Bereichen Finanzdienstleistungen, Versicherungen, Gesundheitswesen, Fertigung, Vertrieb, professionelle Dienstleistungen, Einzelhandel, E-Commerce, Technologie und Software-as-a-Service tätig.

Voraussetzung für die Teilnahme war, dass die Unternehmen innerhalb der vergangenen zwölf Monate KI-Agenten eingesetzt, pilotiert oder aktiv geprüft hatten. Die Befragung fand zwischen dem 15. und 22. Juni 2026 statt.