Datensicherheit
Vertrauen in KI beginnt bei den Daten: Warum Unternehmen ihre Daten besser schützen müssen
Warum Datensicherheit über Vertrauen entscheidet
Künstliche Intelligenz entwickelt sich zum festen Bestandteil geschäftskritischer Prozesse. Doch je tiefer KI-Systeme in Unternehmensabläufe eingebunden werden, desto umfassender benötigen sie Zugriff auf sensible Informationen.
Damit entsteht ein grundlegendes Sicherheitsproblem: Wie können Unternehmen das Potenzial von KI ausschöpfen, ohne die Kontrolle über ihre Daten zu verlieren?
Armin Simon, Regional Director Germany im Bereich Data and Application Security bei Thales , erläutert, warum klassische Sicherheitskonzepte an ihre Grenzen stoßen und weshalb Verschlüsselung, Datenklassifizierung, Zero Trust und KI-Governance zur Grundlage vertrauenswürdiger KI werden.
KI ist längst mehr als ein Werkzeug zur Automatisierung einzelner Aufgaben. Chatbots im Kundenservice verarbeiten personenbezogene Informationen, intelligente Anwendungen zur Prozessoptimierung analysieren Betriebs- und Leistungsdaten, und KI-Engines nutzen detaillierte Kundenprofile, um Entscheidungen in Echtzeit zu treffen. Hinzu kommen autonome KI-Agenten, die eigenständig auf Daten zugreifen, Informationen verknüpfen und Aktionen ausführen – teilweise ohne unmittelbare menschliche Kontrolle.
Damit verändert sich das Verhältnis zwischen Datenzugriff, Sicherheit und Vertrauen grundlegend. Je leistungsfähiger und nützlicher KI-Systeme werden, desto mehr Informationen benötigen sie. Gleichzeitig wachsen die Risiken für Datenschutz, Informationssicherheit und Compliance.
KI entwickelt sich damit zu einer neuen Form der Insider-Bedrohung.
Anders als klassische Insider handelt sie nicht zwangsläufig mit schädlicher Absicht. Dennoch können ihre weitreichenden Berechtigungen, automatisierten Entscheidungen und komplexen Datenzugriffe ähnliche Sicherheitsrisiken verursachen.
Wie groß die bestehenden Schutzlücken bereits sind, verdeutlicht der Thales Data Threat Report 2026 . Demnach bleibt rund die Hälfte der sensiblen Daten in Cloud-Umgebungen unverschlüsselt. Gleichzeitig gehören Cloud-Infrastrukturen zu den wichtigsten Angriffszielen von Cyberkriminellen.
Viele Unternehmen haben zudem Schwierigkeiten, ihre Datenbestände vollständig zu erfassen, deren Speicherorte nachzuvollziehen und Informationen angemessen zu klassifizieren. Genau dort entstehen gefährliche blinde Flecken, wo KI-Anwendungen zunehmend automatisiert auf Unternehmensdaten zugreifen.
Die rasante Verbreitung künstlicher Intelligenz macht damit ein strukturelles Problem sichtbar: Die Innovationsgeschwindigkeit überholt vielerorts die Entwicklung geeigneter Sicherheits- und Governance-Mechanismen.
Datenzugriff wird zur zentralen Sicherheitsfrage der KI
Der wirtschaftliche Nutzen künstlicher Intelligenz hängt unmittelbar von der Qualität und Verfügbarkeit der zugrunde liegenden Daten ab. KI-Systeme benötigen umfangreiche Informationen, um Zusammenhänge zu erkennen, Prozesse zu optimieren und fundierte Entscheidungen zu unterstützen. Für Unternehmen entsteht daraus ein schwieriger Zielkonflikt.
Zu restriktive Zugriffsbeschränkungen können die Leistungsfähigkeit von KI-Anwendungen beeinträchtigen und den erwarteten Return on Investment reduzieren. Werden Berechtigungen dagegen zu großzügig vergeben, vergrößert sich die Angriffsfläche erheblich.
Wie gravierend fehlende Sicherheitskontrollen sein können, zeigt auch der IBM Cost of a Data Breach Report 2026 . Laut der Untersuchung verfügten 92 Prozent der Unternehmen, die einen KI-bezogenen Sicherheitsvorfall erlebt hatten, nicht über angemessene Zugriffskontrollen.
Zudem fehlen in zahlreichen Organisationen verbindliche Richtlinien für den sicheren Einsatz künstlicher Intelligenz. Damit steigt die Wahrscheinlichkeit, dass vertrauliche Informationen während des Trainings, bei der Verarbeitung durch KI-Modelle oder innerhalb automatisierter Workflows unbeabsichtigt offengelegt werden.
Besonders problematisch ist die Dynamik moderner KI-Architekturen.
Anders als traditionelle Anwendungen greifen KI-Systeme häufig nicht nur punktuell auf einzelne Datenbestände zu. Sie verarbeiten Informationen kontinuierlich, kombinieren unterschiedliche Quellen und verwenden Ergebnisse über mehrere Anwendungen, Schnittstellen und Geschäftsprozesse hinweg.
Dadurch entstehen komplexe Abhängigkeiten, deren Sicherheitsauswirkungen sich nur schwer vollständig überblicken lassen. Eine einzelne kompromittierte Datenquelle, eine fehlerhafte Berechtigung oder eine manipulierte Schnittstelle kann sich auf zahlreiche nachgelagerte Prozesse auswirken.
Datensicherheit wird damit zur entscheidenden Voraussetzung für einen vertrauenswürdigen KI-Betrieb.
KI vergrößert die Angriffsfläche von Unternehmen
Die zunehmende Integration von KI erfolgt in einer ohnehin angespannten Bedrohungslage. Cloud-Plattformen bilden die technische Grundlage zahlreicher KI-Anwendungen und stehen gleichzeitig im Fokus professioneller Angreifer. Hinzu kommen menschliche Fehler, unzureichend dokumentierte Datenflüsse und mangelnde Transparenz über sicherheitsrelevante Vorfälle.
Für Unternehmen wird es dadurch immer schwieriger, die tatsächlichen Risiken ihrer digitalen Infrastruktur zuverlässig einzuschätzen. Besonders deutlich zeigt sich diese Entwicklung bei KI-gestützten Produktivitätsplattformen und digitalen Assistenten.
Sicherheitslücken in solchen Anwendungen haben bereits verdeutlicht, wie Cyberkriminelle vertrauenswürdige Systeme missbrauchen können, um vertrauliche Informationen abzugreifen oder sich als legitimierte Benutzer auszugeben.
Das grundlegende Problem besteht darin, dass KI-Anwendungen häufig auf Daten und Funktionen zugreifen dürfen, die bislang ausschließlich autorisierten Mitarbeitenden oder klar definierten Softwareprozessen vorbehalten waren. Werden solche Systeme manipuliert, können die Auswirkungen weit über eine einzelne Anwendung hinausreichen.
Die Geschwindigkeit der KI-Entwicklung wird deshalb selbst zu einem bedeutenden Sicherheitsfaktor. Unternehmen müssen neue Technologien integrieren, während organisatorische Strukturen, Fachkompetenzen und Schutzmaßnahmen häufig erst angepasst werden. Besondere Herausforderungen entstehen durch autonome KI-Agenten.
Diese Systeme können Aufgaben eigenständig planen, Werkzeuge verwenden, Schnittstellen ansprechen und Aktionen ausführen. Werden ihre Berechtigungen nicht konsequent begrenzt, besteht das Risiko, dass sie unbeabsichtigt Sicherheitsgrenzen überschreiten oder durch manipulierte Eingaben zu schädlichen Handlungen veranlasst werden.
Auch ein Ausbruch aus vorgesehenen Ausführungsumgebungen oder der Missbrauch legitimer Zugriffsrechte kann erhebliche Folgen haben. Traditionelle Sicherheitsarchitekturen sind auf solche dynamischen Abläufe nur eingeschränkt vorbereitet.
Viele bestehende Schutzkonzepte wurden entwickelt, um definierte Benutzer, Anwendungen und Netzwerkverbindungen abzusichern. Moderne KI-Umgebungen bestehen dagegen aus komplexen Datenpipelines, Modellen, APIs und zunehmend autonom agierenden Softwarekomponenten.
Diese Strukturen erfordern eine kontinuierliche Überwachung und Sicherheitskontrollen, die sich nicht allein auf klassische Netzwerkgrenzen stützen. Die IBM-Untersuchung zeigt zudem, dass KI-bezogene Sicherheitsvorfälle erhebliche Auswirkungen auf die Vertraulichkeit von Daten und die Verfügbarkeit geschäftlicher Prozesse haben können.
Angreifer profitieren insbesondere von Defiziten beim Identitäts- und Zugriffsmanagement, beim Datenschutz und bei der laufenden Überwachung. Je stärker Unternehmen KI in ihre Kernprozesse integrieren, desto wichtiger wird deshalb die Absicherung der gesamten Daten- und Anwendungslandschaft.
Neue Angriffsmethoden erfordern neue Sicherheitskonzepte
Mit dem Einsatz künstlicher Intelligenz entstehen zusätzliche Angriffsmöglichkeiten, die über klassische Cyberbedrohungen hinausgehen.
Zu den relevanten Risiken zählen manipulierte Trainingsdaten, Prompt Injection, Modelldiebstahl und die unbeabsichtigte Offenlegung vertraulicher Informationen während der Inferenz.
Besonders kritisch ist, dass Angreifer nicht zwangsläufig eine technische Schwachstelle in der zugrunde liegenden Infrastruktur ausnutzen müssen. Bereits gezielt manipulierte Eingaben können ausreichen, um das Verhalten eines KI-Systems zu beeinflussen.
Bei einer Prompt-Injection-Attacke versuchen Angreifer beispielsweise, über externe Inhalte oder manipulierte Anweisungen die vorgesehenen Sicherheitsregeln eines KI-Modells zu umgehen. Gelingt dies, können vertrauliche Informationen offengelegt, unerwünschte Aktionen ausgelöst oder Entscheidungen verfälscht werden.
Auch sogenannte Data-Poisoning-Angriffe gewinnen an Bedeutung. Dabei werden Datenbestände gezielt verändert, um die Ergebnisse eines Modells zu beeinflussen oder dessen Zuverlässigkeit zu beeinträchtigen.
Parallel nutzen Cyberkriminelle generative KI, um bekannte Angriffsmethoden weiterzuentwickeln.
Phishing-Nachrichten lassen sich überzeugender formulieren, Social-Engineering-Kampagnen stärker personalisieren und Identitätsbetrug durch synthetische Inhalte unterstützen.
Autonome KI-Agenten erweitern diese Bedrohungslage zusätzlich. Ihre Fähigkeit, auf Informationen zu reagieren und Handlungen dynamisch anzupassen, kann sowohl für legitime als auch für schädliche Zwecke eingesetzt werden. Die Konsequenz für Unternehmen ist eindeutig: Sicherheitsstrategien dürfen sich nicht länger ausschließlich auf die Infrastruktur konzentrieren. Sie müssen ebenso die Daten, Modelle, Berechtigungen und Entscheidungen künstlicher Intelligenz berücksichtigen.
Wenn KI-Systeme zunehmend Aufgaben übernehmen, die bislang menschlichen Mitarbeitenden vorbehalten waren, muss auch ihr Sicherheitsniveau entsprechend steigen. Vertrauen darf dabei nicht vorausgesetzt werden. Es muss durch überprüfbare Kontrollen entstehen.
Ein vertrauenswürdiges KI-Framework beginnt bei den Daten
Ein wirksames Sicherheitskonzept für künstliche Intelligenz muss auf bewährten Prinzipien der Informationssicherheit aufbauen und diese an die Besonderheiten moderner KI-Architekturen anpassen. Im Mittelpunkt steht der Schutz sensibler Daten über ihren gesamten Lebenszyklus.
Unternehmen müssen nachvollziehen können, welche Informationen vorhanden sind, wo diese gespeichert werden, welche Anwendungen darauf zugreifen und zu welchen Zwecken sie verarbeitet werden.
Eine konsequente Datenklassifizierung bildet dafür die Grundlage.
Ebenso wichtig sind Verschlüsselung, ein professionelles Schlüsselmanagement sowie klar definierte Identitäts- und Zugriffskontrollen. Diese Maßnahmen dürfen nicht mehr ausschließlich als technische Hintergrundprozesse betrachtet werden. Sie sind wesentliche Voraussetzungen dafür, dass KI-Anwendungen sicher und vertrauenswürdig betrieben werden können. Insbesondere bei autonomen KI-Agenten müssen Berechtigungen konsequent nach dem Least-Privilege-Prinzip vergeben werden.
Ein Agent sollte ausschließlich auf diejenigen Daten und Funktionen zugreifen können, die er für seine konkrete Aufgabe benötigt. Kritische Aktionen müssen zusätzlich kontrolliert und gegebenenfalls durch menschliche Freigaben abgesichert werden. Gleichzeitig benötigen Unternehmen Transparenz über die Aktivitäten ihrer KI-Systeme. Dazu gehören die kontinuierliche Überwachung von Datenzugriffen, die Protokollierung sicherheitsrelevanter Aktionen und die Analyse ungewöhnlicher Verhaltensmuster. Auch die Ergebnisse von KI-Anwendungen sollten regelmäßig auf Manipulationen, unerwartete Abweichungen und mögliche Sicherheitsrisiken überprüft werden.
Kontinuierliche Sicherheitstests statt einmaliger Prüfungen
Klassische Sicherheitsüberprüfungen reichen für dynamische KI-Umgebungen allein nicht aus. Unternehmen sollten deshalb kontinuierliche Tests, Red-Team-Übungen und adversarische Simulationen in ihre Sicherheitsprozesse integrieren. Dabei werden KI-Systeme gezielt mit manipulierten Eingaben, ungewöhnlichen Situationen und realistischen Angriffsszenarien konfrontiert.
Ziel ist es, Schwachstellen frühzeitig zu erkennen und die Widerstandsfähigkeit der Anwendungen unter realistischen Bedingungen zu überprüfen. Ebenso entscheidend ist eine verbindliche KI-Governance. Sie muss technische Sicherheitsmaßnahmen mit organisatorischen Verantwortlichkeiten, regulatorischen Anforderungen und ethischen Grundsätzen verbinden.
Unternehmen benötigen klare Regeln darüber, welche KI-Systeme eingesetzt werden dürfen, welche Daten sie verarbeiten können und wer für ihre Entscheidungen und möglichen Sicherheitsvorfälle verantwortlich ist.
Dabei geht es nicht ausschließlich um Prävention.
Angesichts zunehmend komplexer Angriffsflächen müssen Organisationen auch darauf vorbereitet sein, Sicherheitsvorfälle schnell zu erkennen, deren Auswirkungen einzugrenzen und betroffene Systeme zuverlässig wiederherzustellen.
Cyberresilienz wird damit zu einem zentralen Bestandteil vertrauenswürdiger KI.
KI kann selbst zum Bestandteil der Sicherheitsstrategie werden Künstliche Intelligenz ist allerdings nicht nur eine zusätzliche Risikoquelle. Richtig eingesetzt, kann sie Unternehmen dabei unterstützen, ihre Sicherheitsarchitektur zu verbessern und bestehende Schutzmaßnahmen effizienter zu gestalten.
Maschinelles Lernen ermöglicht es, große Datenmengen auf verdächtige Muster zu untersuchen und ungewöhnliche Aktivitäten frühzeitig zu erkennen. Solche Systeme können beispielsweise auffällige Datenzugriffe identifizieren, Veränderungen im Benutzerverhalten analysieren oder Hinweise auf eine mögliche Kompromittierung erkennen.
Damit lassen sich potenzielle Angriffe unter Umständen entdecken, bevor sie größere Schäden verursachen. Besonders wertvoll ist diese Fähigkeit in komplexen IT-Umgebungen, in denen Sicherheitsteams täglich mit einer Vielzahl von Ereignissen und Warnmeldungen konfrontiert sind.
KI-gestützte Analysen können helfen, relevante Bedrohungen schneller einzuordnen und sicherheitskritische Entwicklungen frühzeitig sichtbar zu machen. Zusätzlich eröffnet die Automatisierung neue Möglichkeiten für Security Operations Center. Wiederkehrende Untersuchungen, die Erstbewertung von Sicherheitsereignissen und die Priorisierung von Warnmeldungen lassen sich teilweise automatisieren. Dadurch können sich Sicherheitsexperten stärker auf komplexe Vorfälle und Bedrohungen mit besonders hohen Auswirkungen konzentrieren.
Allerdings müssen auch diese KI-gestützten Sicherheitsfunktionen selbst überwacht und kontrolliert werden. Automatisierte Entscheidungen dürfen nicht zu neuen, unbemerkten Sicherheitsrisiken führen. Die Technologie, die einerseits zusätzliche Angriffsflächen schafft, kann somit gleichzeitig einen Beitrag zur Cyberresilienz leisten. Entscheidend ist, dass ihr Einsatz auf klaren Sicherheitsvorgaben, nachvollziehbaren Entscheidungen und einer verlässlichen Datenbasis beruht.
Fazit: Datensicherheit entscheidet über den Erfolg von KI
Der zunehmende Einsatz künstlicher Intelligenz verändert die Anforderungen an die Unternehmenssicherheit grundlegend.
KI-Systeme benötigen umfassenden Datenzugriff, arbeiten zunehmend autonom und werden immer stärker in geschäftskritische Prozesse eingebunden. Damit wächst die Gefahr, dass unzureichend geschützte Informationen, übermäßige Berechtigungen oder manipulierte Eingaben erhebliche Sicherheitsvorfälle auslösen. Unternehmen müssen deshalb Sicherheit von Beginn an in ihre Datenflüsse, KI-Anwendungen und automatisierten Prozesse integrieren.
Moderne Sicherheitsplattformen können dabei helfen, komplexe Infrastrukturen transparenter zu gestalten, Schutzmaßnahmen einheitlich durchzusetzen und Sicherheitsprozesse effizienter zu organisieren. Gleichzeitig gilt es, künstliche Intelligenz selbst als Werkzeug zur Verbesserung von Erkennung, Reaktion und Wiederherstellung einzusetzen. Langfristig werden vor allem diejenigen Unternehmen von KI profitieren, die Datenschutz, Informationssicherheit und Governance nicht als Innovationshindernis betrachten, sondern als Voraussetzung für den produktiven Einsatz.
Denn der wirtschaftliche Wert künstlicher Intelligenz hängt letztlich davon ab, wie zuverlässig Unternehmen ihre Daten schützen und die Kontrolle über deren Nutzung behalten.
Vertrauen in KI entsteht nicht allein durch leistungsfähige Modelle, sondern durch Sicherheit, Transparenz und nachvollziehbare Kontrolle.