Generationssprung der KI

Von Marco Eggerling, Global CISO bei Check Point Software Technologies

Künstliche Intelligenz (KI) ist über Jahrzehnte ein integraler Teil der Welt geworden und hat Innovationen in allen Bereichen vorangetrieben, von der Robotik hin zur prädiktiven Analytik. Die Einführung der generativen KI (GenAI), angeführt von der Einführung von ChatGPT vor zwei Jahren, markierte dabei einen revolutionären Wendepunkt. ChatGPT ist in der Lage, auf einer Ebene zu kommunizieren, zu erstellen und zu verstehen, die fast menschlich wirkt. Diese transformative Fähigkeit brachte KI aus dem technischen Bereich in den Alltag und demokratisierte den Zugang zu fortschrittlicher Technologie in noch nie dagewesener Weise.

ChatGPT wurde Ende 2022 gestartet und erreichte innerhalb von nur fünf Tagen 1 Million Nutzer. Im Jahr 2024 ist die aktive Nutzerbasis von ChatGPT auf beeindruckende 200 Millionen angestiegen und hat sich damit als eine der am schnellsten wachsenden Anwendungen in der Geschichte etabliert.

Mit seiner Fähigkeit, kohärente, kontextbezogene Antworten in Echtzeit zu generieren, hat ChatGPT die KI zu einem allgemein bekannten Begriff gemacht. ChatGPT und andere ähnliche Tools sind branchenübergreifend und unterstützen Fachleute und Einzelpersonen gleichermaßen im Berufs- und Privatleben; im Zuge ihrer Entwicklung warfen sie jedoch auch kritische Fragen zu ihrem zweischneidigen Potenzial auf.

Der Aufstieg von ChatGPT: Branchenübergreifende Innovation fördern

Von der Kundenbetreuung bis zur Erstellung von Inhalten ist ChatGPT schnell zu einem allgegenwärtigen Werkzeug von Einzelpersonen und Unternehmen gleichermaßen geworden. Obwohl große Sprachmodelle (Large Language Models, LLMs) noch lange nicht an die menschliche Genialität heranreichen, hat ihre Fähigkeit, auf Anfrage passable Lösungen zu liefern, Fachleuten ermöglicht, sich auf kreative, analytische und strategische Aufgaben zu konzentrieren. Die Unmittelbarkeit und der Umfang, den die generative KI bietet, haben einen Paradigmenwechsel ausgelöst, bei dem die KI nicht nur ein Trend, sondern eine grundlegende Realität ist.

GenAI-Tools haben auch branchenübergreifende Unterstützung durch schnelle Problemlösungen ermöglicht, indem sie technische Fragen beantworten und Projektzeitpläne beschleunigen und so wochenlange Aufgaben auf Stunden komprimieren. Die Fähigkeiten von GenAI-Tools wie ChatGPT erstrecken sich auch auf das Reverse Engineering, indem sie auf innovative Weise Sprachmodelle anwenden, um Funktionen zu entschlüsseln und komplexen Code zu verstehen.

Positiv zu vermerken ist zudem, dass sich generative KI zu einem unverzichtbaren Instrument der Verbesserung von Sicherheitsmaßnahmen entwickelt hat:

• Beschleunigung der Arbeitsabläufe: Cyber Security-Experten verwenden GenAI-Tools wie ChatGPT, um Fehler zu beheben, komplexe Probleme zu entschlüsseln und riesige Datensätze in verwertbare Erkenntnisse zu verwandeln – Aufgaben, die früher Wochen oder Tage dauerten.
• Erkennung von Bedrohungen: Die Fähigkeit von GenAI, riesige Datenmengen schnell und aufschlussreich zu analysieren, ermöglicht es Unternehmen, Bedrohungen zu erkennen, die andernfalls vielleicht unbemerkt geblieben wären.
• Reaktion auf Vorfälle: Generative KI wird erforscht, um bei der Zusammenfassung von Angriffsmustern zu helfen, die Reaktionszeiten zu verkürzen und die Abwehr zu stärken. Der Aufstieg der generativen KI hat jedoch auch erhebliche Risiken mit sich gebracht. Ohne angemessene Sicherheitsvorkehrungen könnten sensible Unternehmensdaten, die in Tools wie ChatGPT eingegeben werden, versehentlich nach außen dringen. Ein einziger falscher Umgang mit Daten könnte den Weg für verheerende Folgen ebnen, wenn diese Daten bei einem zukünftigen Verstoß offengelegt werden.

In gewisser Weise hat diese transformative Technologie die Tür für einen alarmierenden Missbrauch durch Cyber-Kriminelle geöffnet:

• Entwicklung von schädlichem Code: ChatGPT und ähnliche Tools ermöglichen es selbst unerfahrenen Angreifern, Malware zu erstellen und zu debuggen, wodurch die Einstiegshürde für Cyber-Kriminalität deutlich gesenkt wird.
• Ausgefeite Phishing-E-Mails: Generative KI ermöglicht es Hackern, realistische, kontextuell überzeugende E-Mails zu verfassen, die den Empfänger mit weitaus größerer Wahrscheinlichkeit täuschen als herkömmliche Phishing-Versuche, die in der Vergangenheit aufgrund mangelnder Eloquenz, Sprach- und Situationskenntnis von erfahrenen Augen als Betrug erkannt werden konnten.
• Fälschungen: GenAI-erstellte Videos und Audioclips, die oft nicht von der Realität zu unterscheiden sind, werden für Betrug, Desinformation und Erpressung verwendet, wodurch die Social-Engineering-Bedrohung durch DeepFakes eskaliert. Diese Missbrauchsfälle machen eine ernüchternde Tatsache deutlich: Generative KI kann nicht nur die Verteidiger stärken, sondern auch die Fähigkeiten der Hacker ausbauen.

Sicher bleiben in einer GenAI-gesteuerten Welt

Die schnelle Einführung von GenAI erfordert einen präventiven Ansatz zur Risikominderung. Empfehlenswert sind die folgenden Schritte:

• Mitarbeiter schulen und ausbilden: Die Mitarbeiter mit Wissen über GenAI-spezifische Bedrohungen und Risiken, zum Beispiel über realistische Phishing-E-Mails, Deepfakes und Halluzinationen, ausstatten, damit sie potenzielle Angriffe erkennen und melden können.
• Datensicherheitsmaßnahmen implementieren: Tools verwenden, die verhindern, dass sensible Daten versehentlich mit KI-Plattformen geteilt werden, um so das Risiko von Lecks oder Missbrauch zu verringern.
• Überwachung und Regulierung der KI-Nutzung: Klare Richtlinien für die ethische und sichere Nutzung generativer KI im Unternehmen festlegen und die Verantwortlichkeit für Nutzer und Entwickler gewährleisten.
• Automatisierte Datenkontrollen: Sensible Informationen schützen, indem automatisierte Lösungen implementiert werden, die den Datenaustausch mit KI-Systemen von Drittanbietern überwachen und einschränken.
• Einführung von KI-gestützten Verteidigungsmaßnahmen: KI-Tools nutzen, um Angreifern einen Schritt voraus zu sein, und die eigene Fähigkeit zu verbessern, Bedrohungen zu erkennen und darauf zu reagieren.

Eine Vision: Verantwortungsvolle KI in der Cyber-Sicherheit

Es besteht kein Zweifel daran, dass generative KI-Programme wie ChatGPT eine immer wichtigere Rolle bei der Gestaltung der Cyber-Sicherheitslandschaft spielen werden. Die Herausforderung besteht darin, ihr Potenzial zum Guten zu nutzen und gleichzeitig die Risiken des Missbrauchs zu minimieren.

Der Vorteil des Einsatzes von generativer KI liegt auf der Hand: Man kann einen Algorithmus riesige Datenmengen untersuchen lassen, die zuvor nur schwer sinnvoll zu verarbeiten gewesen wären. Dennoch ist GenAI kein automatischer Ersatz für einen Menschen oder einen hochmodernen Algorithmus.

Um sicherzustellen, dass generative KI einen positiven Beitrag zur Cyber-Sicherheit leistet, müssen Unternehmen die Verantwortung für ihre Nutzung übernehmen, ob durch die Regulierung sensibler Anwendungen, die Förderung einer Kultur der KI-Kompetenz oder den Einsatz fortschrittlicher Überwachungstools – jede Branche muss sich mit der Technologie entwickeln.

Da wir den zweiten Jahrestag von ChatGPT feiern, dient dieser Meilenstein sowohl als Erinnerung als auch als Aufruf zum Handeln. Das Potential von GenAI ist immens, aber auch die Verantwortung, die damit einhergeht. Indem wir wachsam und vorausschauend bleiben, können wir sicherstellen, dass solche Tools weiterhin Innovationen vorantreiben und wir gleichzeitig vor ihrem Missbrauch geschützt werden.