Critical AI Security Guidelines v1.0: SANS Institute stellt Maßnahmen zur Absicherung künstlicher Intelligenz vor.

Unternehmen, die künstliche Intelligenz in ihre Angebote integrieren, treiben Innovationen voran. Doch viele sind nicht ausreichend auf die damit verbundenen Sicherheitsherausforderungen vorbereitet. Risiken wie Modellmanipulationen und feindliche Angriffe werden oft übersehen – Bedrohungen , gegen die traditionelle Verteidigungssysteme kaum gewappnet sind. Gleichzeitig stehen viele Führungskräfte vor der Herausforderung, KI sicher in ihren Umgebungen zu implementieren. Da KI-Technologien zunehmend in Unternehmen und kritische Infrastrukturen eingebettet werden, wachsen die Risiken schnell und in globalem Maßstab.

Um Unternehmen bei der Bewältigung dieser Risiken zu unterstützen und ihnen mehr Kontrolle zu ermöglichen, startet das SANS Institute eine wichtige Initiative. Dazu gehört die bevorstehende Veröffentlichung der Critical AI Security Guidelines v1.0 , ein praxisnahes Rahmenwerk für Sicherheitsverantwortliche, die KI-Systeme schützen müssen. Die Richtlinien werden erstmals auf dem SANS AI Summit 2025 am 31. März vorgestellt und konzentrieren sich auf sechs zentrale Bereiche: Zugriffskontrollen, Datenschutz, Bereitstellungsstrategien, Inferenzsicherheit, Überwachung sowie GRC (Governance, Risk, Compliance). Sie sollen Sicherheitsteams und Führungskräften klare und umsetzbare Anleitungen bieten, um KI-Systeme effektiv zu schützen. Nach der Veröffentlichung werden die Richtlinien für Community-Feedback geöffnet, sodass Praktiker, Forscher und Experten weitere Erkenntnisse und Aktualisierungen beitragen können.

„Wir beobachten, dass Unternehmen große Sprachmodelle, Retrieval-Augmented Generation (RAG) und autonome Agenten schneller einsetzen, als sie sie absichern können“, sagt Rob T. Lee, Chief of Research und Co-Chair des SANS AI Summits. „Diese Richtlinien basieren auf dem aktuellen Stand der Technik. Sie sind keine Theorie, sondern für Security-Analysten und Führungskräfte gedacht, die diese Systeme heute schon schützen müssen.“

Da KI-Technologien für alle Unternehmensbereiche zentral sind, wächst der Bedarf an Open-Source-Tools zur Unterstützung von Sicherheitsteams. Der SANS AI Cybersecurity Hackathon, der von Mitte Februar bis Mitte März stattfand, forderte die Cybersecurity-Community auf, Open-Source-Tools zu entwickeln, die direkt mit den neuen Sicherheitsrichtlinien abgestimmt sind. Die Teilnehmer entwickelten innovative Sicherheitslösungen zur Überwachung von Inferenzprozessen, zur Abwehr von Angriffen und zur Behebung von Schwachstellen in KI-Modellen. Die während des Hackathons entstandenen Tools werden auf dem KI-Summit präsentiert und bieten Unternehmen praxisnahe Lösungen.

„Wir brauchen mehr Experten, die verstehen, wie KI funktioniert und wie man sie schützt“, sagt Kate Marshall, SANS AI Hackathon Director und Co-Chair des SANS AI Summits. „Es geht nicht nur um die Entwicklung neuer Tools, sondern auch darum, Talente zu fördern. Genau das brauchen wir, um KI-Systeme für die Zukunft abzusichern.“

Der Hackathon leistet einen wichtigen Beitrag zur Schließung der wachsenden KI-Sicherheits-Fachkräftelücke. Die Teilnehmer erhalten praxisnahe Erfahrungen und direkte Betreuung durch führende KI-Sicherheitsexperten. Angesichts des steigenden Bedarfs an Spezialisten sind Initiativen wie diese essenziell, um sicherzustellen, dass der Talentpool den Anforderungen der Branche gerecht wird. Die besten Tools werden nicht nur ausgezeichnet und gefördert, sondern auch ein integraler Bestandteil für die Umsetzung effektiver Sicherheitsrichtlinien in Unternehmen.

„Wir sind an einem Punkt angelangt, an dem diese Arbeit nicht mehr optional ist“, erklärt Rob T. Lee. „Die Branche brauchte einen zentralen, vertrauenswürdigen Ort für KI-Sicherheit. Wir brauchen echte Schutzmaßnahmen, verlässliche Werkzeuge und eine Möglichkeit, Fähigkeiten zu entwickeln, die die Welt schützen werden. Genau darum geht es hier. Es geht nicht um SANS – es geht darum, als Gemeinschaft zusammenzukommen.“