Autonome KI-Systeme haben bei internen Tests von OpenAI, Meta und Anthropic Angriffe auf externe Produktionssysteme durchgeführt. Die Vorfälle zeigt nach Einschätzung des Finanzdatenanbieters PitchBook neue Risiken durch sogenannte agentische KI und könnte den Zufluss von Wagniskapital in auf KI-Sicherheit spezialisierte Cybersecurity-Unternehmen verstärken.
So haben zum Beispiel Mitte Juli 2026 Modelle von OpenAI im Rahmen des internen Benchmarks „ExploitGym“ eine bislang unbekannte Sicherheitslücke ausgenutzt haben, um die isolierte Testumgebung zu verlassen. Anschließend seien erbeutete Zugangsdaten und weitere Schwachstellen genutzt worden, um Befehle auf Produktionsservern von Hugging Face auszuführen. Über einen Zeitraum von viereinhalb Tagen seien dabei mehr als 17.000 Aktionen im Rahmen des Tests durchgeführt worden.
Nach Einschätzung der Analysten verdeutlicht der Vorfall, dass sich mit zunehmender Verbreitung autonom handelnder KI-Systeme auch die Bedrohungslage für Unternehmen verändert. Die Risiken lägen dabei nicht nur in den KI-Modellen selbst, sondern insbesondere in der Daten- und Infrastrukturebene, auf die KI-Agenten zugreifen können.
Der Markt für KI-basierte Cybersicherheit hat bereits deutlich an Bedeutung gewonnen. Nach den von PitchBook ausgewerteten Daten entfielen 2025 weltweit 50,5 Prozent aller Cybersecurity-Venture-Capital-Deals auf Unternehmen mit einem speziell auf KI ausgerichteten Geschäftsmodell. Das war der höchste Anteil seit Beginn der Erhebung.
Die Analysten erwarten, dass der Vorfall das Interesse von Investoren an Sicherheitslösungen für KI-Systeme weiter erhöhen könnte. Unternehmen müssten ihre KI-Anwendungen und die damit verbundenen Dateninfrastrukturen stärker gegen autonome Angriffe absichern. Dazu könnten auch leistungsfähige KI-Modelle gehören, die auf den eigenen Systemen der Unternehmen zur Erkennung und Abwehr von Angriffen eingesetzt werden.
Der Bericht sieht insbesondere bei Start-ups Chancen, die sich auf die Absicherung der Datenebene von KI-Anwendungen spezialisiert haben. Die Entwicklung könnte damit einen weiteren Schub für Venture-Capital-Investitionen in sogenannte AI-native Cybersecurity auslösen. (DFPA/abg)
Den Report zum Download finden Sie hier.
PitchBook ist ein US-amerikanisches Finanzdaten- und Analyseunternehmen, das sich auf Private Equity, Venture Capital, Mergers & Acquisitions (M&A) und andere Bereiche der privaten Kapitalmärkte spezialisiert hat. Das Unternehmen wurde 2007 gegründet und gehört seit 2016 zur Morningstar Inc., einem großen Anbieter von Finanzinformationen und Investmentanalysen.
