„Während sich immer mehr Risiken inzwischen mit Maschinengeschwindigkeit verbreiten, ist Sicherheit oft noch auf menschliche Geschwindigkeit angewiesen“, warnt Lior Levy, Mitgründer und CEO von Cycode. Wie groß das Potenzial autonomer KI für Cyberangriffe inzwischen ist, zeigen gleich mehrere jüngere Beispiele. Im Juli gelang es OpenAI-Modellen während eines Sicherheitstests, aus einer abgeschotteten Umgebung auszubrechen: Sie fanden eine bislang unbekannte Zero-Day-Lücke, verschafften sich Internetzugang und kompromittierten anschließend die Produktivsysteme von Hugging Face. Kurz darauf meldete Anthropic ähnliche Vorfälle. Bei internen Cybersecurity-Tests gelangten Claude-Modelle aufgrund einer Fehlkonfiguration ins offene Internet und griffen reale Systeme von drei Unternehmen an. In einem Fall veröffentlichte Mythos 5 sogar ein manipuliertes Python-Paket, das auf realen Rechnern ausgeführt wurde. Es sind nur einige der jüngeren Beispiele dafür, wie schnell KI-Agenten inzwischen selbstständig Schwachstellen suchen, Angriffswege entwickeln und Aktionen ausführen können – Fähigkeiten, die auch Cyberkriminelle bereits für sich nutzen.
Die Sicherheitsbranche versucht deshalb, den Spieß umzudrehen. XBOW setzt auf autonome Penetrationstester, die Anwendungen untersuchen, Schwachstellen kombinieren und deren Ausnutzbarkeit mit echten Angriffen belegen. Hadrian schickt dafür Hunderte spezialisierte Agenten parallel auf die Suche nach verwundbaren Systemen. Und SentinelOne verlagert den Ansatz auf die Verteidigung: Purple AI kann Sicherheitsalarme selbstständig untersuchen, Beweise zusammentragen, eine Bewertung abgeben und bei entsprechender Freigabe Gegenmaßnahmen einleiten. Gemeinsam ist den Ansätzen das Ziel, menschliche Analysten nicht mehr zum Flaschenhals jeder einzelnen Entscheidung zu machen.
In dieses Feld stößt nun auch der Anwendungssicherheitsanbieter Cycode mit seinen neuen „Agentic Workflows“ vor. Unternehmen legen dafür einmal fest, welche Ereignisse einen Prozess auslösen, welche Aktionen die KI anschließend durchführen darf und ab welchem Punkt ein Mensch zustimmen muss. Danach starten die Abläufe automatisch. Auslöser kann etwa eine neue Schwachstelle in einer geschäftskritischen Anwendung sein, eine ausnutzbare Sicherheitslücke mit überschrittener Behebungsfrist oder eine von Entwicklern ignorierte Hochrisiko-Warnung. Die Agenten sollen solche Fälle selbstständig bewerten, priorisieren und – innerhalb der festgelegten Grenzen – beheben.
Wie das aussehen kann, zeigt Cycode am Umgang mit Ausnahmen. Ignoriert ein Entwickler eine als hochriskant eingestufte Schwachstelle, prüft ein Agent zunächst, ob sie in der konkreten Anwendung tatsächlich ausgenutzt werden kann. Ist das Risiko gering, kann er empfehlen, die Ausnahme zu akzeptieren. Bestätigt sich dagegen eine hohe Ausnutzbarkeit, öffnet das System den Fall automatisch wieder. Vorgefertigte Workflows gibt es unter anderem auch für den Abbau alter Sicherheitswarnungen, die Eskalation überschrittener Fristen und die Behebung von Container-Risiken. Damit verschiebt sich die Rolle der Security-Teams: Sie müssen nicht mehr jeden einzelnen Fall selbst bearbeiten, sondern definieren Regeln und Grenzen, innerhalb derer ihre KI-Agenten handeln dürfen.
Ob sich autonome Sicherheitsagenten tatsächlich gegen immer schnellere KI-Angriffe behaupten können, muss sich erst zeigen. Klar ist jedoch: Je stärker Angriffe automatisiert werden, desto schwieriger wird es für Security-Teams, ausschließlich mit manuellen Prozessen Schritt zu halten. Der Wettlauf zwischen offensiver und defensiver KI dürfte gerade erst begonnen haben.
