KI Transparenz

Darktrace führt mit SECURE AI™ neue Lösung für verhaltensbasierte KI-Sicherheit ein

, Darktrace | Autor: Herbert Wieler

Darktrace führt mit SECURE AI™ neue Lösung für verhaltensbasierte KI-Sicherheit ein

Mehr Transparenz im Einsatz von KI

Künstliche Intelligenz ist längst fester Bestandteil moderner Unternehmen. Von generativen KI-Tools über KI-gestützte SaaS-Anwendungen bis hin zu selbst entwickelten KI-Agenten in Cloud-Umgebungen: Der Einsatz von KI wächst rasant – oft schneller, als Sicherheits- und Governance-Strukturen mithalten können. Mit Darktrace / SECURE AI™ stellt Darktrace nun eine neue Lösung vor, die Unternehmen dabei unterstützt, Transparenz, Kontrolle und Sicherheit über den gesamten KI-Lebenszyklus hinweg zu gewinnen.

Neue Lösung unterstützt Unternehmen dabei, Künstliche Intelligenz sicher, kontrolliert und nachvollziehbar einzusetzen

Darktrace / SECURE AI™ überträgt die bewährte, verhaltensbasierte KI-Expertise von Darktrace auf eine der größten aktuellen Herausforderungen der Unternehmenssicherheit: den sicheren Einsatz von KI. Die Lösung hilft Organisationen dabei, zu verstehen, wo KI eingesetzt wird, wie sie genutzt wird, worauf sie zugreift und welche Risiken daraus entstehen – in Echtzeit und über alle relevanten Umgebungen hinweg.

Transparenz über Verhalten, Absicht und Risiko

Im Zentrum von Darktrace / SECURE AI™ steht ein ganzheitlicher Ansatz: Statt sich ausschließlich auf einzelne Tools oder starre Regeln zu verlassen, analysiert die Lösung das Verhalten und die Absichten von Menschen und KI-Agenten sowie deren Interaktionen miteinander. So können Unternehmen nachvollziehen, wie KI-Systeme tatsächlich genutzt werden – nicht nur, wie sie theoretisch genutzt werden sollten.

„KI-Systeme scheitern nicht wie klassische Software – sie verändern sich, passen sich an und verhalten sich mitunter auf unerwartete Weise“, sagt Mike Beck, Chief Information Security Officer bei Darktrace . „Darktrace verfolgt seit mehr als einem Jahrzehnt einen verhaltensbasierten Ansatz, um die unstrukturierten und schwer vorhersehbaren Ökosysteme aus Menschen, Daten und Technologien in Unternehmen zu verstehen und abzusichern. Mit Darktrace / SECURE AI übertragen wir diesen Ansatz auf KI-Systeme und geben Sicherheitsteams Einblick in das, was KI tatsächlich tut – nicht nur in das, was sie laut Richtlinie tun darf. So können Unternehmen mit Vertrauen innovieren.“

Absicherung über den gesamten KI-Lebenszyklus hinweg

Darktrace / SECURE AI™ bietet Schutz und Einblick über alle Phasen des KI-Lebenszyklus hinweg – von der Entwicklung über den Betrieb bis hin zur täglichen Nutzung durch Mitarbeitende. Die Lösung sichert unter anderem:

  • KI-Funktionen in SaaS-Anwendungen, die zunehmend tief in Geschäftsprozesse integriert sind
  • Selbst entwickelte KI-Agenten in Hyperscaler- und Cloud-Umgebungen
  • Shadow AI, also den nicht genehmigten oder intransparenten Einsatz von KI-Tools durch Mitarbeitende

Gerade Shadow AI stellt viele Organisationen vor erhebliche Herausforderungen. Mitarbeitende nutzen generative KI-Tools häufig eigenständig, um effizienter zu arbeiten – oft ohne klare Vorgaben oder Bewusstsein für Sicherheits- und Datenschutzrisiken. Darktrace / SECURE AI™ macht diese Nutzung sichtbar und hilft, Risiken frühzeitig zu erkennen und zu steuern.

Einblick in Datenzugriffe und langfristige Verhaltensmuster

Mit Darktrace / SECURE AI™ erhalten Unternehmen detaillierte Einblicke darüber, auf welche Systeme und Informationen KI-Anwendungen zugreifen, wie sich diese Zugriffe im Zeitverlauf verändern und ob ungewöhnliche oder potenziell riskante Muster auftreten. Dadurch können Sicherheits- und IT-Teams fundierte Entscheidungen treffen, ohne Innovation auszubremsen. Die Lösung ermöglicht es zudem, KI-Nutzung im Kontext bestehender Sicherheitsstrategien zu bewerten. Anstatt KI isoliert zu betrachten, wird sie als integraler Bestandteil der digitalen Unternehmenslandschaft verstanden – mit all ihren Chancen, aber auch mit ihren Risiken.

Wachsende Sorge vor Sicherheitsrisiken durch KI

Dass dieser Ansatz dringend notwendig ist, zeigen aktuelle Studien von Darktrace . Mehr als drei Viertel der befragten Cybersicherheitsverantwortlichen gaben an, sich über die Sicherheitsimplikationen der breiten Einführung von KI-Agenten und generativen KI-Tools von Drittanbietern Sorgen zu machen. Viele Organisationen sehen sich mit einer neuen Angriffsfläche konfrontiert, die sich dynamisch verändert und schwer zu kontrollieren ist. Zusätzliche Daten aus der Praxis unterstreichen diese Entwicklung: Über einen Zeitraum von fünf Monaten hinweg beobachtete Darktrace im Durchschnitt ungewöhnliche oder anomale Datenübertragungen an generative KI-Dienste im Umfang von rund 4.700 Seiten pro Konto. In einzelnen Fällen lag das Datenvolumen sogar bei mehr als 200.000 Seiten. Diese Zahlen verdeutlichen, wie schnell sensible Informationen – bewusst oder unbewusst – in externe KI-Systeme gelangen können.

Sicherheit als Enabler für verantwortungsvolle KI

Mit Darktrace / SECURE AI™ verfolgt Darktrace das Ziel, Sicherheit nicht als Innovationsbremse, sondern als Voraussetzung für verantwortungsvollen KI-Einsatz zu positionieren. Unternehmen sollen KI nutzen können, ohne dabei die Kontrolle über ihre Daten, Systeme und Geschäftsprozesse zu verlieren. Darktrace / SECURE AI™ ist ab sofort verfügbar und ergänzt das bestehende Portfolio von Darktrace um eine Lösung, die den wachsenden Anforderungen an KI-Governance, Sicherheit und Compliance gerecht wird.