Erweiterung mit LLM-Scanner, multimodalem Schutz und umfassender Bedrohungsanalyse

Qualys, Inc. (NASDAQ: QLYS), führender Anbieter von Cloud-basierten IT-, Security- und Compliance-Lösungen, kündigt bedeutende Erweiterungen seiner TotalAI-Plattform an. Die neuen Funktionen stärken die KI-Sicherheitsstrategie von Unternehmen über die gesamte MLOps-Pipeline hinweg – von der Entwicklung bis zur Bereitstellung – und adressieren zentrale Risiken von Large Language Models (LLMs).

Mit dem neuen internen LLM-Scanner lassen sich KI-Modelle nun direkt im Unternehmen testen – auch während iterativer Entwicklungszyklen. So erhalten Teams schnellen Einblick in sicherheitskritische Schwachstellen, ohne sensible Daten nach außen zu geben. Gleichzeitig werden Angriffsflächen deutlich reduziert und Sicherheitslücken frühzeitig geschlossen.

Die Innovationsgeschwindigkeit in der KI übertrifft derzeit die Implementierung grundlegender Sicherheitskontrollen. Eine aktuelle Umfrage zeigt: 72 % der CISOs befürchten Sicherheitsverletzungen durch generative KI. Unternehmen benötigen daher integrierte Schutzmaßnahmen, die Sicherheit und Agilität vereinen.

“Sicherheit darf kein nachgelagerter Gedanke mehr sein, wenn KI zum Innovationstreiber wird”, erklärt Tyler Shields, Principal Analyst bei der Enterprise Strategy Group. “TotalAI ermöglicht es Unternehmen, vertrauenswürdige Modelle sicher in die Produktion zu bringen und dabei Innovation mit effektiver Risikominderung zu verbinden.”

Abbildung 1: Qualys TotalAI Dashboard | Copyright Qualys, Inc.

TotalAI: Erweiterte Schutzfunktionen im Überblick

• Interner LLM-Scanner für DevSecOps: Sicherheitsprüfungen lassen sich direkt in CI/CD-Workflows integrieren – lokal, automatisiert und ohne Datenexfiltration. Der Shift-Left-Ansatz ermöglicht schnelle Erkennung und Behebung von Schwachstellen bereits während der Entwicklungsphase.
• Automatische Risikopriorisierung mit MITRE ATLAS & TruRisk™: Sicherheitsrisiken werden anhand realer Angriffsszenarien klassifiziert, bewertet und priorisiert. So können sich Sicherheits-, IT- und MLOps-Teams auf die kritischsten Bedrohungen konzentrieren.
• Erweiterte Bedrohungsdatenbank mit 40 Angriffstypen: TotalAI erkennt nun ein breites Spektrum KI-spezifischer Angriffe – darunter Jailbreaks, Prompt-Injektionen, mehrsprachige Exploits und Bias-Verstärkung – und hilft, Sicherheitsmechanismen gegen Manipulation zu härten.
• Multimodaler Schutz gegen Cross-Media-Exploits: Die neue Bedrohungsabdeckung erkennt Angriffe, die in Bild-, Audio- oder Videoinhalten versteckt sind und LLMs manipulieren sollen – ein entscheidender Vorteil gegen komplexe, cross-modale Exploits.
• Prüfung auf OWASP Top 10 für LLMs: TotalAI testet Modelle auf Schwachstellen wie Informationslecks, Verzerrungen oder Missbrauchsmöglichkeiten und unterstützt Teams bei schneller Abhilfe – für mehr Betriebsstabilität und Vertrauenswürdigkeit.

“KI verändert Unternehmen grundlegend – und mit ihr entstehen neue, hochkomplexe Risiken”, sagt Sumedh Thakar, CEO von Qualys. “TotalAI bietet die nötige Transparenz und Automatisierung, um KI-Workloads sicher und kontrolliert zu betreiben. So bleiben Unternehmen innovativ und einen Schritt voraus.”