Kalifornien verklagt OpenAI nach Agenten-Hack

Der Angriff von OpenAI-Testagenten auf Hugging Face landet vor Gericht. Was der Generalstaatsanwalt vorwirft und was Teams daraus mitnehmen.

5 Min. Lesezeit

Der Angriff von OpenAI-Testagenten auf Hugging Face im Juli wird ein Gerichtsfall. Kaliforniens Generalstaatsanwalt Rob Bonta hat am 16.11.2026 vor dem Superior Court in San Francisco Klage gegen die OpenAI Foundation und die OpenAI Group PBC eingereicht. Der Kern des Vorwurfs: OpenAI habe gefährliche Modelle ohne ausreichende Aufsicht getestet und die Öffentlichkeit über die Sicherheit dieser Tests getäuscht.

Zur Erinnerung: Im Juli brachen KI-Agenten aus einer Testumgebung von OpenAI aus und drangen in die Infrastruktur von Hugging Face ein, offenbar um an Lösungen für einen Benchmark zu kommen. Was damals bekannt wurde, steht in Der Hugging-Face-Angreifer war OpenAI.

Was in der Klage steht

Die Klageschrift liefert einige Zahlen, die bisher nicht öffentlich waren. Rund 1.200 Agenten tauschten sich demnach über ein internes Message-Board aus, etwa 700 davon griffen Hugging Face an. Der Angriff dauerte rund zweieinhalb Tage. OpenAI habe Warnsignale in den Wochen davor übersehen oder ignoriert und den Kontrollverlust erst bemerkt, als Hugging Face sich Tage später meldete.

Brisanter ist ein Satz weiter vorne. OpenAI habe gegenüber der Generalstaatsanwaltschaft eingeräumt, in Tests über 80 Mal die Kontrolle über seine autonomen Agenten verloren zu haben. Öffentlich gemeldet hatte das Unternehmen laut Klage nur 27 Vorfälle. Hugging Face war also kein Einzelfall. Die Klage nennt auch Zugriffe auf Code-Datenbanken, Websites und ausländische Regierungsdatenbanken mit Gesundheitsdaten. Zudem sollen Agenten OpenAIs eigene Infrastruktur kompromittiert und Admin-Zugriff auf kritische Systeme erlangt haben. Bei den Ermittlungen habe OpenAI kaum kooperiert und auf Vorladungen vor allem öffentlich verfügbare Informationen und eigene Blogposts geliefert.

Bonta nennt den Hugging-Face-Angriff in der Pressemitteilung "the predictable result of an internal culture at OpenAI that prioritizes growth and rapid model development over safety and accountability". Mit Science-Fiction über eine außer Kontrolle geratene KI habe das nichts zu tun.

Rechtlich stützt sich die Klage auf zwei Grundlagen: Kaliforniens Gesetz gegen unlauteren Wettbewerb, das auch irreführende Aussagen erfasst, und den Vorwurf einer öffentlichen Gefährdung ("public nuisance"). Gefordert werden eine Unterlassungsanordnung, die Herausgabe von Gewinnen und Zivilstrafen von 2.500 US-Dollar pro Verstoß und Beklagtem. Eine Gesamtsumme nennt die Klage nicht. Das kalifornische Gesetz zur Transparenz von Frontier-Modellen (SB 53) taucht nur am Rand als Begründung auf, ein eigener Klagepunkt ist es nicht.

Was OpenAI sagt

Ein OpenAI-Sprecher verwies gegenüber CNBC auf den technischen Bericht, eine unabhängige Untersuchung und verschärfte Sicherungen seit dem Vorfall. Die Klage greife OpenAI für ein Problem heraus, das alle großen KI-Labore kennen. Man arbeite weiter mit der Generalstaatsanwaltschaft zusammen.

Nicht der einzige US-Bundesstaat

Alabama hat schon im August eine Untersuchung gestartet und OpenAI eine Vorladung geschickt, gestützt auf das dortige Verbraucherschutzrecht. In Delaware, dessen Justizministerium die gemeinnützige OpenAI Foundation beaufsichtigt, läuft laut Spotlight Delaware seit Oktober eine weitere Untersuchung. Sie zielt auf Sicherheits- und Governance-Entscheidungen von Führung und Board, die Angaben stammen aber von anonymen Quellen. In Europa hat die Kommission nach den Agenten-Vorfällen bereits klargemacht, dass der AI Act greift, mehr dazu in EU droht KI-Anbietern mit Modell-Rückruf.

Drei Fragen fürs eigene Haus

Die Klage richtet sich an einen Modellanbieter, aber die Argumentation ist auch für Firmen interessant, die selbst Agenten betreiben. Bonta wirft OpenAI nicht vor, dass ein Agent ausgebrochen ist. Er wirft vor, dass Tests ohne angemessene Überwachung liefen, dass Warnsignale niemand ausgewertet hat und dass die öffentlichen Aussagen zur Sicherheit nicht zur Praxis passten. Genau diese drei Punkte lassen sich auch im eigenen Haus prüfen: Laufen Agenten mit Netzzugang nur in überwachten Umgebungen? Gibt es jemanden, der Auffälligkeiten in den Logs tatsächlich anschaut? Und stimmt das, was ihr Kunden über eure KI-Sicherheit erzählt, mit dem überein, was technisch umgesetzt ist?

Wann das Gericht verhandelt, ist offen. Bis zu einem Urteil dürfte einige Zeit vergehen.

Quellen7