Frontier AI: Wenn KI schneller wird als die Sicherheitskontrollen

Unternehmen stehen bei künstlicher Intelligenz vor einem doppelten Wettlauf gegen die Zeit. Während sie noch versuchen, Produktivitätsgewinne durch KI sicher zu erschließen, entwickelt sich die nächste Generation leistungsfähiger Frontier-AI-Modelle mit hoher Geschwindigkeit weiter. Damit wächst nicht nur das Innovationspotenzial – sondern auch die Gefahr, dass bestehende Sicherheitsarchitekturen mit den Fähigkeiten autonomer KI-Systeme nicht mehr Schritt halten können.

James Tucker, Head of CISO bei Zscaler erklärt wie Unternehmen die Chancen leistungsfähiger KI nutzen können, ohne dabei Kontrolle, Datenintegrität und Cyber-Resilienz zu verlieren.

KI kann Prozesse beschleunigen, Routineaufgaben übernehmen und Unternehmen effizienter machen. Doch der Blick auf Produktivität allein greift zu kurz. Je leistungsfähiger, portabler und leichter verfügbar KI-Modelle werden, desto relevanter wird ihre Fähigkeit, sowohl Verteidiger als auch Angreifer zu unterstützen.

Ein anschauliches Bild dafür liefert der T-Rex aus Jurassic Park. Viele Unternehmen errichten derzeit hohe Zäune um eine Technologie, die mächtig, wertvoll und in ihren Konsequenzen noch nicht vollständig verstanden ist. Das Geschäftsmodell ist überzeugend: KI verspricht Geschwindigkeit, Effizienz und Wettbewerbsvorteile. Die entscheidende Frage lautet jedoch zunehmend, ob die Schutzmechanismen stark genug bleiben, wenn die Technologie innerhalb dieser Grenzen immer leistungsfähiger wird.

Wenn KI unerwartete Wege findet

Ob KI tatsächlich kreativ sein kann, ist umstritten. Für die Sicherheitsbetrachtung ist diese philosophische Frage allerdings zweitrangig. Entscheidend ist vielmehr, dass KI-Systeme Aufgaben ausgesprochen persistent verfolgen, Zusammenhänge herstellen und alternative Wege zu einem vorgegebenen Ziel identifizieren können.

Genau hier geraten klassische Kontrollmechanismen unter Druck. Ursache können mangelhafte Governance, ein böswilliger Insider oder externe Angreifer sein. Gleichzeitig besteht die Gefahr, dass Unternehmen die Anpassungsfähigkeit ihrer eigenen KI-Systeme unterschätzen.

Öffentlich diskutierte Vorfälle aus der Evaluierung fortgeschrittener KI-Systeme zeigen, warum diese Entwicklung ernst genommen werden sollte. Modelle können innerhalb einer Aufgabenstellung Wege identifizieren, die von ihren Entwicklern nicht vorgesehen waren, externe Ressourcen einbeziehen oder vorhandene Kontrolllücken miteinander kombinieren.

Die entscheidende Lehre daraus lautet: Unternehmen dürfen nicht davon ausgehen, dass Schutzmaßnahmen, die heutige KI-Modelle zuverlässig kontrollieren, automatisch auch bei der nächsten Modellgeneration ausreichen werden.

Der eigentliche „T-Rex-Moment“

Das Risiko von Frontier AI besteht nicht erst darin, dass künftige Modelle irgendwann exponentiell leistungsfähiger werden könnten. Schon heute können fortgeschrittene Systeme einzelne Informationen, Schwachstellen und Berechtigungen miteinander verknüpfen und daraus neue Handlungsmöglichkeiten ableiten.

Damit verändert sich auch die Geschwindigkeit, mit der Sicherheitsprobleme eskalieren können.

Ein KI-System muss dabei weder Absichten noch ein menschliches Verständnis seiner Handlungen besitzen. Für einen Sicherheitsvorfall können bereits drei Faktoren ausreichen: ein vorgegebenes Ziel, umfangreiche Zugriffsrechte und unzureichende Kontrollmechanismen.

Gerade bei autonomen Agenten wird diese Kombination relevant. Können sie APIs aufrufen, Anwendungen bedienen, Informationen beschaffen oder weitere Systeme ansteuern, vergrößert sich der potenzielle Aktionsradius erheblich.

Traditionelle Sicherheitsprozesse, die auf menschliche Analyse, manuelle Freigaben und vergleichsweise lange Reaktionszeiten ausgelegt sind, könnten damit zunehmend an ihre Grenzen geraten.

Frontier AI verändert auch die Angriffsgeschwindigkeit

Unternehmen sollten deshalb nicht warten, bis noch leistungsfähigere Frontier-AI-Modelle breit kommerziell verfügbar sind.

Denn dieselben Fähigkeiten, die Innovation beschleunigen, lassen sich grundsätzlich auch offensiv einsetzen. KI kann beispielsweise die Informationsbeschaffung über Zielunternehmen automatisieren, potenzielle Schwachstellen analysieren, Angriffspfade priorisieren oder besonders wertvolle Datenbestände innerhalb komplexer Infrastrukturen identifizieren.

Damit verändert sich nicht zwangsläufig jede einzelne Angriffstechnik – wohl aber deren Skalierbarkeit und Geschwindigkeit.

Besonders problematisch wird dies dort, wo Unternehmen weiterhin auf historisch gewachsene IT-Landschaften, überprivilegierte Benutzerkonten, offen erreichbare Systeme oder starre Sicherheitsmodelle setzen.

Das Innovationstempo der KI lässt sich zudem nur anhand dessen beurteilen, was öffentlich sichtbar ist. Welche Fähigkeiten in Forschungslaboren oder geschlossenen Entwicklungsumgebungen bereits entstehen, lässt sich wesentlich schwerer einschätzen.

KI-Governance wird zur Sicherheitsdisziplin

Unternehmen sollten daher die verbleibende Zeit nutzen, um sowohl ihre klassische IT-Sicherheit als auch ihre KI-Governance zu modernisieren.

Dabei geht es nicht darum, KI pauschal einzuschränken. Im Gegenteil: Dieselben Technologien, die Angreifern neue Möglichkeiten eröffnen, können auch die Verteidigung erheblich beschleunigen.

Für Security Operations wird KI damit zunehmend von einem Produktivitätswerkzeug zu einem Bestandteil der Cyber-Resilienz. Wenn Angriffe schneller, automatisierter und anpassungsfähiger werden, können menschliche Sicherheitsteams allein kaum dauerhaft mit derselben Geschwindigkeit reagieren.

Defensive KI kann bei der Erkennung ungewöhnlicher Aktivitäten, der Priorisierung von Risiken, der Analyse von Angriffspfaden und der Automatisierung von Reaktionen helfen.

Die Antwort auf leistungsfähigere KI muss deshalb nicht weniger KI lauten – sondern kontrollierter eingesetzte KI auf beiden Seiten der Sicherheitsarchitektur.

Sechs Maßnahmen für die Vorbereitung auf Frontier AI

Unternehmen können bereits heute mehrere Grundlagen schaffen, um ihre Widerstandsfähigkeit gegenüber einer zunehmend KI-getriebenen Bedrohungslandschaft zu erhöhen.

1. Angriffsfläche konsequent reduzieren

Unnötig aus dem Internet erreichbare Systeme sollten entfernt oder abgeschirmt werden. Dazu zählen insbesondere veraltete Anwendungen, Legacy-Systeme und klassische VPN-Infrastrukturen. Je weniger potenzielle Einstiegspunkte sichtbar sind, desto geringer ist die Zahl der Möglichkeiten, die automatisierte Angriffssysteme analysieren und kombinieren können.

2. Zero Trust konsequent umsetzen

Perimeterschutz allein reicht für hochgradig vernetzte und KI-gestützte Umgebungen nicht mehr aus. Zugriffe sollten nach dem Least-Privilege-Prinzip vergeben und kontinuierlich überprüft werden. Das begrenzt sowohl menschliche Angreifer als auch kompromittierte oder fehlgeleitete KI-Agenten in ihrem Aktionsradius.

3. Kritische Systeme und Daten segmentieren

Hochwertige Datenbestände, Authentifizierungssysteme, kritische Anwendungen sowie IT- und OT-Umgebungen sollten voneinander getrennt und streng kontrolliert werden. Segmentierung erschwert laterale Bewegungen und verhindert, dass ein einzelner kompromittierter Zugang automatisch den Weg zu weiteren kritischen Ressourcen öffnet.

4. Schwachstellen nicht isoliert betrachten

Klassische Patch-Strategien priorisieren häufig anhand des Schweregrads einer einzelnen Schwachstelle. In einer KI-getriebenen Angriffswelt gewinnt jedoch die Verkettung mehrerer vermeintlich weniger kritischer Schwachstellen an Bedeutung. Entscheidend ist deshalb zunehmend, welche realen Angriffspfade zu besonders sensiblen Ressourcen führen.

5. KI-Nutzung aktiv steuern

Pauschale Verbote können Schatten-KI fördern. Unternehmen sollten ihren Mitarbeitenden deshalb genehmigte KI-Werkzeuge mit klar definierten Richtlinien, technischen Kontrollen und ausreichender Transparenz zur Verfügung stellen. Nur wenn die IT weiß, welche Modelle mit welchen Daten arbeiten, kann sie Risiken wirksam kontrollieren.

6. KI auch für die Verteidigung einsetzen

Security-Teams sollten KI nicht ausschließlich als Produktivitätswerkzeug betrachten. KI-gestützte Erkennung, Priorisierung und Reaktion werden zunehmend notwendig, um mit der Geschwindigkeit KI-gestützter Angriffe Schritt halten zu können.

Legacy-IT wird zum Risiko-Multiplikator

Besonders kritisch sind ältere IT-Systeme, die zwar weiterhin funktionieren, sich jedoch nicht mehr ausreichend absichern lassen.

Im Zeitalter von Frontier AI können solche Systeme zum Ausgangspunkt automatisierter Angriffsketten werden. Lassen sie sich nicht kurzfristig ersetzen oder patchen, sollten sie zumindest konsequent isoliert und durch zusätzliche Zugriffskontrollen geschützt werden.

Die entscheidende Frage lautet deshalb nicht, ob Unternehmen Frontier AI einsetzen werden. Sie lautet vielmehr, ob ihre Sicherheitsarchitektur schnell genug mit der Entwicklung Schritt hält.

Frontier AI muss nicht zum nächsten entwichenen Dinosaurier werden. Dafür müssen Unternehmen allerdings beginnen, ihre Zäune zu verstärken, bevor sie feststellen, dass die Technologie längst gelernt hat, neue Wege daran vorbei zu finden.