Schätzungen zufolge wurden 40 Prozent des weltweit geschriebenen Codes durch KI generiert

Künstliche Intelligenz verändert gerade rasant die Art und Weise, wie Software entsteht. Immer häufiger schreiben nicht mehr ausschließlich Entwickler selbst den Code – sondern KI-Systeme unterstützen oder übernehmen ganze Teile der Arbeit. Was viele Unternehmen als enormen Produktivitätsschub feiern, bringt jedoch auch eine neue Kategorie von Risiken mit sich. Ein Begriff, der dabei immer häufiger fällt, ist „Vibe Coding“. Gemeint ist das Entwickeln mit starker Unterstützung durch KI-Tools: Entwickler beschreiben ein Problem oder eine Funktion – und die KI generiert große Teile des Codes automatisch.

Doch genau hier beginnt die Herausforderung für die Cybersicherheit.

Mehr Code – aber auch mehr Risiken

Schätzungen zufolge wurde im Jahr 2025 bereits rund 40 Prozent des weltweit geschriebenen Codes von KI generiert. Studien zeigen, dass Entwickler mit KI-Unterstützung deutlich schneller arbeiten: Teilweise schreiben sie drei- bis viermal so viel Code wie Kollegen ohne solche Tools.

Das klingt zunächst nach einer Erfolgsgeschichte. Doch mehr Geschwindigkeit bedeutet nicht automatisch mehr Qualität oder Sicherheit. Untersuchungen zeigen, dass Entwickler bei der Nutzung von KI-Tools deutlich mehr Sicherheitsrisiken in ihre Software integrieren. Dazu gehören unter anderem:

• ungeprüfte Open-Source-Abhängigkeiten
• falsch konfigurierte Cloud-Berechtigungen
• versehentlich veröffentlichte Zugangsdaten
• unsichere oder fehlerhafte Code-Strukturen

Die Menge der potenziellen Schwachstellen kann dabei um ein Vielfaches steigen. Der Grund: KI kann zwar Code generieren – aber sie übernimmt keine Verantwortung für Sicherheit, Kontext oder Unternehmensrichtlinien.

Slopsquatting: Wenn die KI Dinge erfindet

Eine besonders raffinierte Angriffsmethode nutzt eine bekannte Schwäche vieler KI-Systeme: sogenannte Halluzinationen. Damit ist gemeint, dass eine KI manchmal Informationen erfindet, die plausibel klingen, aber in Wirklichkeit nicht existieren. Im Bereich Softwareentwicklung betrifft das häufig Bibliotheken oder Softwarepakete.

Beim sogenannten Slopsquatting gehen Angreifer gezielt so vor:

1. Ein Chatbot empfiehlt in einem Codebeispiel ein Paket oder eine Bibliothek.
2. Dieses Paket existiert jedoch gar nicht.
3. Angreifer registrieren genau diesen Namen in einem Paket-Repository.
4. Sie hinterlegen darin Schadcode.
5. Entwickler installieren das Paket – und öffnen damit unbemerkt eine Hintertür.

Eine Untersuchung von mehr als 500.000 KI-generierten Codebeispielen zeigte, dass rund 20 Prozent der empfohlenen Pakete gar nicht existierten. Ein Sicherheitsforscher testete dieses Prinzip selbst: Er registrierte einen der am häufigsten von KI „halluzinierten“ Paketnamen. Innerhalb von nur drei Monaten wurde dieses Paket über 30.000 Mal heruntergeladen. Das zeigt, wie schnell aus einer scheinbar kleinen Ungenauigkeit ein massives Sicherheitsproblem entstehen kann.

Wenn Fachkräftemangel zum Sicherheitsproblem wird

Dass solche Angriffe funktionieren, liegt nicht nur an der Technologie. Ein weiterer Faktor ist der Mangel an qualifizierten Fachkräften im Bereich IT-Sicherheit. Viele Unternehmen kämpfen bereits damit, ihren bestehenden Code ausreichend zu überprüfen. Wenn KI nun zusätzlich große Mengen neuer Software erzeugt, steigt die Belastung weiter. Oft fehlen:

• strukturierte Sicherheitsprüfungen für Code
• sauberes Berechtigungsmanagement
• automatisierte Sicherheitsanalysen
• klare Prozesse für Updates und Konfigurationsänderungen Ohne diese Grundlagen können kleine Fehler schnell zu großen Problemen werden.

Die Risiken sind keineswegs theoretisch. Ein Beispiel zeigte sich im Sommer 2024: Ein fehlerhaftes Sicherheitsupdate eines IT-Sicherheitsanbieters führte weltweit zu massiven IT-Ausfällen. Fluggesellschaften mussten Flüge streichen, Banken konnten keine Dienste bereitstellen und auch Krankenhäuser waren betroffen. Der Vorfall machte deutlich, wie stark moderne Gesellschaften inzwischen von funktionierender Software abhängen – und wie groß die Auswirkungen eines einzigen Fehlers sein können.

Besonders kritisch: Systeme der realen Welt

Noch sensibler wird die Situation dort, wo Software nicht nur digitale Systeme steuert, sondern physische Anlagen. Dazu gehört die sogenannte Operational Technology (OT) – also industrielle Steuerungssysteme in Energieversorgung, Produktion oder Infrastruktur. Hier können selbst gut gemeinte Updates problematisch werden. In dokumentierten Fällen führte beispielsweise:

• ein Sicherheits-Patch dazu, dass eine Gasturbine nicht mehr korrekt heruntergefahren werden konnte
• ein Netzwerk-Scan dazu, dass mehrere Umspannwerke ausfielen, weil Steuergeräte ihn als Angriff interpretierten Solche Ereignisse zeigen, dass IT-Sicherheit in industriellen Umgebungen besonders sorgfältig umgesetzt werden muss.

Resilienz statt reiner Verteidigung

Angesichts dieser Risiken verändert sich auch der Blick auf Cybersicherheit. Statt ausschließlich auf Abwehr von Angriffen zu setzen, gewinnt ein anderes Konzept an Bedeutung: Cyberresilienz. Dabei geht es darum, Systeme so zu gestalten, dass sie auch bei Fehlern oder Angriffen funktionsfähig bleiben oder schnell wiederhergestellt werden können.

Zu den wichtigsten Maßnahmen gehören:

• verlässliche Backup-Strukturen
• dokumentierte Systemkonfigurationen
• kontinuierliche Überwachung von Änderungen
• mehrere sichere Wiederherstellungspunkte

Ein besonders wirkungsvolles Werkzeug ist dabei der digitale Zwilling eines Unternehmenssystems. Dabei wird die gesamte IT- und Anlagenlandschaft virtuell abgebildet. Updates, neue Software oder KI-generierter Code können dann zunächst in dieser simulierten Umgebung getestet werden, bevor sie in die reale Infrastruktur gelangen.

Fehler, Angriffe oder Ausfälle lassen sich niemals vollständig verhindern. Doch Unternehmen können das Risiko deutlich reduzieren, wenn sie ihre Systeme, Prozesse und Sicherheitsstrategien konsequent weiterentwickeln. KI wird in der Softwareentwicklung eine immer größere Rolle spielen. Der entscheidende Punkt ist daher nicht, ob sie genutzt wird – sondern wie verantwortungsvoll sie eingesetzt wird. Denn eines zeigt sich bereits heute: Die Geschwindigkeit, mit der Code entsteht, steigt rasant. Die Sicherheit muss mit dieser Entwicklung Schritt halten.