Agentische KI beschleunigt die Abwehr, ersetzt aber keine menschliche Kontrolle

Ein einziger kompromittierter Zugang kann heute reichen, um kritische Prozesse im Gesundheitswesen massiv zu stören. Der Cyberangriff auf Change Healthcare im Jahr 2024 hat gezeigt, wie schnell sich Sicherheitslücken bei Dienstleistern zu einem systemischen Risiko entwickeln können. Genau deshalb wird agentische KI für Kliniken, Versicherer und Gesundheitsdienstleister zum Gamechanger – aber nur, wenn der Mensch die Kontrolle behält.

Eric Litowsky, Sales Director bei BlueVoyant erläutert die Problematik.

In vielen Gesundheitseinrichtungen kämpfen Security-Teams längst nicht mehr nur gegen klassische Malware oder Phishing-Kampagnen. Sie müssen eine hochkomplexe digitale Infrastruktur absichern, die aus Cloud-Diensten, API-Schlüsseln, Service-Accounts, vernetzten Medizingeräten, Abrechnungssystemen und Patientenakten-Software besteht. Besonders kritisch ist dabei die wachsende Zahl sogenannter Maschinenidentitäten.

Laut BlueVoyant kommen im Schnitt 82 Maschinenidentitäten auf jeden einzelnen Mitarbeitenden. Dieses Verhältnis macht deutlich, wie stark sich die Angriffsfläche im Gesundheitswesen vergrößert hat. Denn jede Identität, jeder Schlüssel und jeder automatisierte Zugriff kann zum Einfallstor werden, wenn Verwaltung, Überwachung und Kontext fehlen.

Change Healthcare zeigt, wie schnell ein Vorfall eskalieren kann

Der Angriff auf Change Healthcare gilt als Warnsignal für die gesamte Branche. Ein unzureichend geschütztes Citrix-Zugangsdaten-Paar soll genügt haben, um erhebliche Teile der Bearbeitung von Versicherungsansprüchen in den USA lahmzulegen. Der Vorfall machte sichtbar, wie abhängig Gesundheitsorganisationen von digitalen Dienstleistern und deren Sicherheitsniveau sind.

Die Dimension ist erheblich: Change Healthcare verarbeitet jährlich Milliarden Transaktionen. Nach dem Angriff entstanden hohe finanzielle Schäden, zugleich standen potenziell sehr große Mengen sensibler Gesundheitsdaten im Risiko. Für Kliniken, Versicherer und Partnerunternehmen wurde damit deutlich, dass Cybersecurity im Gesundheitswesen nicht an der eigenen Firewall endet.

Besonders problematisch ist die Lieferkette. Wenn Dienstleister, Softwareanbieter oder externe Plattformen kompromittiert werden, kann sich der Schaden kaskadenartig ausbreiten. Für Sicherheitsteams bedeutet das: Sie müssen nicht nur die eigene Umgebung verstehen, sondern auch Risiken erkennen, die aus vernetzten Ökosystemen entstehen.

Agentische KI kann Threat Intelligence in Minuten nutzbar machen

Hier kommt agentische KI ins Spiel. Sie kann Analysten dabei unterstützen, neue Bedrohungsinformationen deutlich schneller in konkrete Erkennungslogik zu übersetzen. Was früher Stunden oder Tage dauern konnte, lässt sich mit KI-gestützten Agenten teilweise in Minuten vorbereiten.

Ein Beispiel ist die Erkennung verdächtiger Registry-Einträge. Eine KI kann innerhalb weniger Sekunden eine syntaktisch korrekte KQL-Abfrage erstellen, die nach Persistenzmechanismen über sogenannte Run-Keys sucht. Für ein Security Operations Center klingt das zunächst nach einem erheblichen Effizienzgewinn.

In der Praxis reicht eine solche Abfrage aber nicht aus. Gerade in Krankenhausumgebungen können generische Suchmuster Tausende Fehlalarme erzeugen. Der Begriff „Run“ taucht in zahlreichen legitimen Anwendungen, Backup-Systemen, Administrationswerkzeugen oder Komponenten von Patientenakten-Software auf. Ohne Kontext wird aus Geschwindigkeit schnell Rauschen.

Der eigentliche Wert entsteht deshalb erst im Zusammenspiel: Die KI übernimmt die Schreibarbeit, schlägt Abfragen vor und beschleunigt die technische Umsetzung. Der Mensch verfeinert die Logik, grenzt per Regex auf relevante Schlüssel ein, filtert bekannte Hersteller heraus und berücksichtigt die Besonderheiten der eigenen Umgebung.

Warum KI-Ergebnisse überzeugend falsch sein können

Die größte Gefahr liegt nicht unbedingt in fehlerhafter Syntax. Kritischer sind Ergebnisse, die plausibel, strukturiert und professionell wirken, aber dennoch falsch sind. Genau das macht KI-gestützte Security-Analysen so anspruchsvoll.

Nach dem Change-Healthcare-Vorfall suchten viele Organisationen nach Hinweisen auf BlackCat und verwandte Angriffsmuster. Eine KI kann solche Indikatoren schnell sammeln, mit bekannten Taktiken abgleichen und scheinbar klare Treffer liefern. Doch ohne Prüfung gegen die eigene Baseline können daraus Fehlalarme entstehen.

Ein ungewöhnlich getakteter geplanter Task kann harmlos sein. Ein Service-Account kann zufällig einem bekannten Muster ähneln. Ein auffälliger Dateipfad kann in der Konfiguration einer Patientenakten-Software völlig normal sein. Für eine KI sieht das möglicherweise verdächtig aus, für erfahrene Analysten mit Umgebungswissen nicht.

Wer solche Treffer ungeprüft eskaliert, belastet die ohnehin knappen Security-Teams zusätzlich. Analysten verlieren Zeit, Führungskräfte werden unnötig eingebunden und das Vertrauen in Sicherheitsprozesse leidet. Im schlimmsten Fall entsteht eine gefährliche Abstumpfung gegenüber echten Alarmen.

Der Mensch im Loop ist kein Bremsklotz

Agentische KI ist im Gesundheitswesen deshalb kein Ersatz für erfahrene Security-Teams, sondern ein Skalierungswerkzeug. Sie kann Threat Intelligence schneller operationalisieren, Abfragen vorbereiten, Syntaxarbeit reduzieren und die Triage beschleunigen. Besonders bei neuen Advisories oder akuten Angriffswellen kann das entscheidend sein.

Ungeeignet ist KI dagegen dort, wo Kontext, Verantwortung und Risikoabwägung gefragt sind. Sie sollte ihre eigenen Ergebnisse nicht validieren, keine finalen Eskalationsentscheidungen treffen und kein klinisches Prozesswissen ersetzen. Auch ein formal korrekt wirkender Output darf den Review-Prozess nicht umgehen.

Gerade im Gesundheitswesen sind Fehlentscheidungen nicht abstrakt. Maschinenidentitäten hängen an Systemen, die Operationen planen, Medikamente ausgeben, Versicherungsansprüche bearbeiten und hochsensible Patientendaten speichern. Ein falscher Alarm kostet Zeit. Ein übersehener echter Angriff kann Versorgung, Datenschutz und Vertrauen gefährden.

Fazit: KI beschleunigt die Abwehr – Menschen sichern die Qualität

Die zentrale Lehre aus Vorfällen wie Change Healthcare lautet: Blindes Vertrauen ist riskant. Das gilt für die Sicherheitslage externer Dienstleister ebenso wie für die Ergebnisse KI-gestützter Analysen. Selbst eine Lösegeldzahlung garantiert keine Kontrolle über die Folgen eines Angriffs.

Agentische KI kann die Lücke zwischen veröffentlichter Threat Intelligence und einsatzfähiger Erkennung drastisch verkleinern. Sie hilft, Geschwindigkeit in die Cyberabwehr zu bringen und überlastete Teams zu entlasten. Doch der entscheidende Sicherheitsgewinn entsteht erst, wenn menschliche Expertise die Ergebnisse prüft, einordnet und verantwortet.

Der Mensch im Loop ist damit kein Hindernis für Automatisierung. Er ist die Voraussetzung dafür, dass KI im Gesundheitswesen nicht nur schneller arbeitet, sondern auch sicherer.