KI Risiken
KI verändert die Cyberabwehr: Warum klassische Security-Strategien nicht mehr ausreichen
Alarmflut statt Sicherheit: Warum CISOs ihre KI-Risiken neu bewerten müssen
Die Zahl der Sicherheitswarnungen wächst, doch die eigentliche Gefahr für Unternehmen liegt häufig dort, wo Transparenz fehlt. Mit KI-Coding-Agenten, neuen Entwicklungsumgebungen und zunehmend komplexen Software-Lieferketten verändert sich die Bedrohungslandschaft grundlegend. Für CISOs bedeutet das einen strategischen Wandel: Weg von isolierten Sicherheitslösungen, hin zu einer ganzheitlichen Risikobetrachtung, die Innovation ermöglicht, statt sie auszubremsen.
Paul Davis, Field CISO bei JFrog , erklärt, warum klassische Security-Strategien in der KI-Ära an ihre Grenzen stoßen und weshalb Unternehmen eine ganzheitliche Sicht auf ihre KI-Anwendungen benötigen.
Chief Information Security Officers (CISOs) verbringen einen Großteil ihrer Zeit damit, Mitarbeitende, Unternehmen und geschäftskritische Werte vor Cyberbedrohungen zu schützen. Dabei sind sie täglich mit einer kaum überschaubaren Flut von Sicherheitswarnungen konfrontiert.
Doch entgegen einer weitverbreiteten Annahme sind es nicht die zahlreichen Alerts, die Sicherheitsverantwortlichen schlaflose Nächte bereiten. Das eigentliche Problem sind unkontrollierte Risiken – Bedrohungen, die sich nicht erkennen, messen oder zuverlässig bewerten lassen.
Fehlende Transparenz gehört deshalb zu den größten Herausforderungen moderner Cybersicherheit. Wer versteht, welche Bedrohungen existieren, wie sie funktionieren und welche Systeme betroffen sind, kann gezielt reagieren. Schwieriger wird es, wenn Risiken zwar bekannt sind, ihre tatsächlichen Auswirkungen aber unklar bleiben. Noch problematischer sind Bedrohungen, die vollständig außerhalb des eigenen Sichtfelds liegen.
Gleichzeitig steigt der Zeitdruck. Sicherheitsverantwortliche müssen Risiken immer schneller erkennen und bewerten, während Unternehmen ihre Innovationszyklen kontinuierlich verkürzen.
Dabei hat sich auch das Selbstverständnis der CISO-Rolle verändert. Moderne Sicherheitsverantwortliche sollen Innovationen ermöglichen und gleichzeitig deren Risiken beherrschbar halten. Die Zeiten, in denen Security vor allem als Kontrollinstanz und Verhinderer neuer Technologien wahrgenommen wurde, sollten vorbei sein. Die Aufgabe eines CISOs besteht heute darin, geschäftliches Wachstum sicher zu ermöglichen – nicht darin, immer neue Sicherheitsprodukte in die bestehende Infrastruktur einzubauen.
Warum klassische Sicherheitsstrategien in der KI-Ära an ihre Grenzen stoßen
Im Zusammenhang mit generativer KI und modernen KI-Modellen ist häufig zu hören, dass sich die Bedrohungslage im Grunde nicht verändert habe. KI sei lediglich eine weitere Technologie, die mit den bekannten Sicherheitsmechanismen geschützt werden könne.
Gelassenheit und Vorbereitung sind zweifellos wichtig. Problematisch wird es allerdings, wenn aus einer gelassenen Haltung schleichend Stillstand entsteht. Denn auch wenn einzelne Angriffsmuster vertraut erscheinen, hat sich das Umfeld, in dem sie auftreten, grundlegend verändert.
Lange Zeit betrachteten viele CISO-Organisationen die Anwendungssicherheit lediglich aus der Distanz. Die operativen Details der Softwareentwicklung standen nicht im Mittelpunkt ihrer Sicherheitsstrategie.
Inzwischen hat sich gezeigt, dass die Angriffsfläche nicht einfach nur größer geworden ist. Sie hat sich auf Bereiche ausgedehnt, die früher vor allem in der Verantwortung der Entwicklungsteams lagen.
Dazu gehören CI/CD-Pipelines, Entwickler-Workstations, KI-Coding-Agenten und Plugins für integrierte Entwicklungsumgebungen (IDEs). Diese Komponenten sind heute ebenso sicherheitsrelevant wie klassische Unternehmensanwendungen und Netzwerkinfrastrukturen.
Software Supply Chain: Die Angriffsfläche reicht weit über Open Source hinaus
Ein typischer Ansatz in der Anwendungssicherheit besteht darin, mithilfe einer Software Composition Analysis (SCA) die Bestandteile eines Softwarepakets zu untersuchen. Anschließend werden bekannte Schwachstellen identifiziert und bewertet. Doch eine reine Bestandsaufnahme der enthaltenen Komponenten reicht längst nicht mehr aus. Häufig bleibt unberücksichtigt, welche Daten diese Pakete verarbeiten, welche Abhängigkeiten entstehen und welche Bedrohungen sich innerhalb der Software-Lieferkette verbergen können.
Cyberkriminelle nehmen zunehmend gezielt die Betreiber von Software-Repositories ins Visier. Ihr Ziel besteht darin, Schadcode oder manipulierte Komponenten in Entwicklungs- und Verteilungsprozesse einzuschleusen.
Dabei beschränken sich Angriffe längst nicht mehr auf klassische Open-Source-Pakete. Auch Large Language Models (LLMs), Model Context Protocol (MCP)-Server und sogenannte Agent Skills, mit denen sich die Fähigkeiten von KI-Agenten erweitern lassen, geraten in den Fokus. Für Unternehmen entsteht dadurch eine deutlich komplexere Sicherheitslandschaft. Die relevante Angriffsfläche umfasst heute den gesamten Software-Lebenszyklus – von der Entwicklung über die Paketierung und Distribution bis zum produktiven Betrieb.
KI verändert die Bewertung von Schwachstellen und Cyberrisiken
Die zunehmende Verbreitung leistungsfähiger KI-Modelle markiert einen grundlegenden Wandel für das Schwachstellenmanagement. Bisher konzentrierte sich die Risikobewertung häufig auf eine vergleichsweise konkrete Frage: Wird eine verwundbare Funktion innerhalb einer Anwendung tatsächlich ausgeführt? Denn eine bekannte Schwachstelle bedeutet nicht automatisch, dass ein Softwarepaket unter den gegebenen Einsatzbedingungen auch ausnutzbar ist. Genau diese Unterscheidung verdeutlicht der JFrog-Bericht „Software Supply Chain Security State of the Union 2026 “.
Demnach waren lediglich zwölf Prozent der prominentesten CVEs des Jahres 2025 in realen Unternehmensumgebungen tatsächlich gut ausnutzbar. Rund 66 Prozent erreichten auf der von JFrog verwendeten Applicability-Skala lediglich Werte zwischen null und 20 Prozent.
Die Ergebnisse zeigen, wie stark sich theoretische Schwachstellen und tatsächlich relevante Sicherheitsrisiken unterscheiden können.
Für Security-Teams ist diese Differenz entscheidend. Wer sämtliche gemeldeten Schwachstellen mit derselben Priorität behandelt, investiert erhebliche Ressourcen in Risiken, die unter den konkreten Einsatzbedingungen möglicherweise nur eine geringe Bedeutung haben.
Von bekannten CVEs zu komplexen KI-Angriffsvektoren
Mit modernen Frontier-Modellen, also besonders leistungsfähigen KI-Systemen, wird die Risikobewertung jedoch wesentlich anspruchsvoller. Während sich klassische Schwachstellen häufig über bestimmte Funktionen und deren Aufrufpfade analysieren lassen, entstehen bei KI-Anwendungen zusätzliche Angriffsmöglichkeiten.
Dazu zählen manipulierte Eingabedaten, kompromittierte Datenflüsse und Sicherheitsprobleme, die tief in den eingesetzten Modellen oder deren Integrationen verborgen sein können.
Damit verändert sich auch die Bedeutung klassischer Security-Alerts.
Künftige Warnmeldungen sollten idealerweise nicht nur darüber informieren, welche Softwarekomponente betroffen ist. Sie müssen auch erkennen lassen, welche Manipulationstechnik eingesetzt wurde und unter welchen Bedingungen daraus eine tatsächliche Bedrohung entsteht. Erst mit diesem zusätzlichen Kontext können Threat-Intelligence-Teams fundiert beurteilen, welche Vorfälle unmittelbares Handeln erfordern.
Die entscheidende Fähigkeit moderner Security-Plattformen liegt deshalb nicht darin, möglichst viele Warnungen zu erzeugen, sondern tatsächliche Bedrohungen zuverlässig vom allgemeinen Alarmrauschen zu unterscheiden
Genau an dieser Aufgabe scheitern viele bestehende Sicherheitsarchitekturen.
Zu viele Security-Tools schaffen neue Risiken statt mehr Sicherheit
Neben der wachsenden technischen Komplexität bleibt die Fragmentierung der Sicherheitslandschaft eine zentrale Herausforderung. Der JFrog-Report unterstreicht deshalb die Bedeutung konsolidierter Werkzeuge und einer einheitlichen Software-Pipeline.
Security-, DevSecOps- und Product-Security-Teams sollten nach Möglichkeit auf gemeinsame Datenbestände und eine konsistente Plattform zugreifen können. Denn widersprüchliche Informationen aus unterschiedlichen Sicherheitssystemen erschweren die Bewertung von Risiken erheblich. Wenn mehrere Tools ähnliche Bedrohungsdaten sammeln, diese aber unterschiedlich interpretieren und darstellen, entsteht nicht zwangsläufig ein zusätzlicher Sicherheitsgewinn. Stattdessen müssen Teams Zeit investieren, um Ergebnisse abzugleichen und Widersprüche aufzulösen.
AppSec-Konsolidierung: Unternehmen reduzieren ihre Werkzeugvielfalt
Dass viele Unternehmen diese Problematik erkannt haben, zeigen ebenfalls die Ergebnisse des JFrog-Berichts. Demnach sank der Anteil der Unternehmen, die sieben oder mehr Application-Security-Lösungen einsetzen, innerhalb eines Jahres von 73 auf 35 Prozent.
Diese Entwicklung deutet darauf hin, dass die Konsolidierung von Sicherheitswerkzeugen zunehmend an Bedeutung gewinnt. Dennoch arbeiten zahlreiche Organisationen weiterhin mit fragmentierten Toolsets und voneinander getrennten Datenbeständen. Die Konsequenz: Sicherheitsverantwortliche müssen Informationen aus unterschiedlichen Systemen zusammenführen, bevor sie überhaupt eine belastbare Entscheidung über ein konkretes Risiko treffen können.
Eine konsolidierte Plattform, die als verlässliche Single Source of Truth dient, kann diesen Aufwand erheblich reduzieren. Voraussetzung ist allerdings, dass Sicherheits- und Entwicklungsprozesse organisatorisch enger miteinander verzahnt werden. Denn viele Probleme entstehen nicht durch fehlende Technologien, sondern durch historisch gewachsene Strukturen.
In zahlreichen Unternehmen wird Sicherheit weiterhin erst nachträglich in Entwicklungsprozesse integriert. Entwicklungsteams betreiben eigene Pipelines und Werkzeuge, während Security-Abteilungen versuchen, die daraus entstehenden Informationen in separate Kontrollsysteme zu übertragen.
Das Ergebnis sind Datensilos, Schnittstellenprobleme und zusätzliche Abstimmungsprozesse.
In Gesprächen mit CISOs und anderen Führungskräften zeigt sich immer wieder, dass diese strukturelle Fragmentierung zu den größten Hindernissen einer wirksamen Sicherheitsstrategie zählt.
Mit der zunehmenden Einführung von KI-Agenten droht sich dieses bekannte Problem in einer neuen technischen Umgebung zu wiederholen. Viele Unternehmen reagieren auf neue KI-Technologien, indem sie zusätzliche spezialisierte Sicherheitslösungen beschaffen oder selbst entwickeln.
Ein Beispiel sind Registries für das Model Context Protocol (MCP), mit denen sich MCP-Server und deren Bereitstellung zentral erfassen beziehungsweise verwalten lassen. Solche Lösungen können einen wichtigen Beitrag zur Transparenz leisten. Sie decken jedoch nur einen begrenzten Ausschnitt der gesamten KI-Anwendungslandschaft ab.
Wer ausschließlich MCP-Komponenten absichert, übersieht möglicherweise andere sicherheitskritische Bereiche der eingesetzten KI-Systeme. Dennoch lässt sich derzeit beobachten, dass Unternehmen für einzelne KI-Komponenten jeweils separate Sicherheitsprodukte einführen.
Auf eine Lösung für MCP folgt ein weiterer Anbieter für die Absicherung von KI-Agenten. Anschließend kommt ein zusätzliches Produkt für den nächsten technologischen Baustein hinzu. Damit wiederholt sich ein Muster, das bereits aus der klassischen Anwendungssicherheit bekannt ist: Neue Bedrohungen werden mit neuen Insellösungen beantwortet, ohne die übergeordnete Sicherheitsarchitektur ausreichend zu berücksichtigen. Langfristig drohen dadurch erneut fragmentierte Datenbestände, uneinheitliche Risikobewertungen und zusätzliche operative Komplexität.
Ganzheitliche KI-Sicherheit statt isolierter Schutzmaßnahmen
Die zentrale Frage sollte deshalb nicht lauten, welches einzelne KI-Tool als Nächstes abgesichert werden muss. Entscheidend ist vielmehr, wie sich die gesamte KI-Anwendung einschließlich ihrer Modelle, Datenflüsse, Schnittstellen, Entwicklungsprozesse und angebundenen Dienste schützen lässt.
Dafür benötigen Unternehmen ein durchgängiges Verständnis der eingesetzten Technologien und ihrer gegenseitigen Abhängigkeiten. Sicherheitsverantwortliche müssen nachvollziehen können, welche Komponenten verwendet werden, wo Daten verarbeitet werden und welche Risiken durch die Interaktion verschiedener Systeme entstehen.
Nur mit dieser Transparenz lassen sich Bedrohungen realistisch bewerten und geeignete Schutzmaßnahmen priorisieren.
Für CISOs bedeutet das auch, den Blick stärker auf die Architektur und den gesamten Lebenszyklus KI-basierter Anwendungen zu richten, statt ausschließlich einzelne technische Komponenten zu kontrollieren.
Damit schließt sich der Kreis zur ursprünglichen Herausforderung moderner Sicherheitsverantwortlicher: Nicht die Anzahl der Warnmeldungen entscheidet über das Sicherheitsniveau eines Unternehmens, sondern die Fähigkeit, tatsächliche Risiken zu erkennen, zu verstehen und kontrolliert zu reduzieren.
Gerade im Zeitalter der KI wird diese Fähigkeit zu einer zentralen Voraussetzung dafür, dass Unternehmen Innovationen sicher und mit der erforderlichen Geschwindigkeit vorantreiben können.
