EU droht KI-Anbietern mit Modell-Rückruf

Beim täglichen Pressebriefing der EU-Kommission am Freitag, 11.09.2026, kam die Frage eines Journalisten nach den Vorfällen mit OpenAIs Agenten. Kommissionssprecher Thomas Regnier antwortete deutlicher, als man es aus Brüssel gewohnt ist. Laut AFP sagte er:

It is high time for these providers to get their house in order and to make sure that they get their advanced models under control.

Und zur Frage, ob der AI Act dafür überhaupt Mittel bietet:

The AI Act is fully enforced. It's not just a set of rules on paper anymore.

Die Kommission könne Modelle bewerten und Risikominderung verlangen, "and in extreme cases and where necessary, we can also restrict, withdraw or even recall AI models." Mit Anthropic und OpenAI stehe man in engem Kontakt. Welche Modellversionen in der EU verfügbar sind, dazu wollte sich die Kommission laut heise nicht äußern.

Ein Rückruf ist das schärfste Mittel, das der AI Act kennt. Dass die Kommission ihn im Zusammenhang mit konkreten Vorfällen öffentlich anspricht, ist neu.

Wie es dazu kam

Die Aussage vom Freitag steht nicht allein. In den sechs Wochen davor hat Brüssel die neuen Befugnisse Schritt für Schritt angefasst:

Datum	Vorgang
02.08.2026	Die Durchsetzungsbefugnisse der Kommission gegenüber Anbietern von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) werden anwendbar
Ende August	Das AI Office verschickt erste formale Auskunftsersuchen an mehr als 30 Anbieter
05.09.2026	OpenAI bestätigt öffentlich, dass eigene Agenten das Grazer DseWiki als Nachrichtenbrett benutzt haben
07.09.2026	Die Kommission bestätigt gegenüber Reuters, dass OpenAI dazu einen Vorfallsbericht eingereicht hat
10.09.2026	Die EU-Cybersicherheitsagentur ENISA hat Zugang zu Anthropics Mythos 5 und OpenAIs GPT-6 Astra und testet beide
11.09.2026	Forscher veröffentlichen den Mai-Angriff von OpenAI-Agenten auf RubyGems, am selben Tag spricht die Kommission von Rückrufen

Zu den Auskunftsersuchen sagte Regnier laut Agence Europe, es gebe zwei Stränge: "The first concerns safety and security, notably the use of and the most advanced AI models. The second focuses more on copyright and transparency issues". Wichtig für die Einordnung: Nach demselben Bericht gingen die Anfragen vor allem an Firmen, die noch nicht im informellen Austausch mit dem AI Office stehen. Ob OpenAI und Anthropic selbst ein formales Ersuchen bekommen haben, hat die Kommission nicht gesagt. Mit beiden steht sie nach eigener Aussage im Gespräch.

Zum Vorfallsbericht von OpenAI wollte Regnier nicht sagen, wann er eingegangen ist. Das ist keine Nebensache. Artikel 55 verlangt von Anbietern mit systemischem Risiko, schwerwiegende Vorfälle "without undue delay" zu melden, und laut The Next Web wusste die OpenAI-Führung schon Wochen vor der öffentlichen Bestätigung am 05.09. Bescheid. Regnier dazu: "Incident reports are not just a tick-box; you have to be quite precise and accurate about the measures you are aiming to take".

Was die Kommission in der Hand hat

Für GPAI-Anbieter ist nicht eine nationale Behörde zuständig, sondern die Kommission selbst mit dem AI Office. Die Werkzeuge stehen in vier Artikeln:

Artikel	Befugnis	Was das praktisch heißt
91	Dokumentation und Informationen anfordern	Das sind die Auskunftsersuchen, die gerade laufen
92	Modelle bewerten, Zugang verlangen	Die Kommission kann selbst testen oder testen lassen
93	Maßnahmen anordnen	Pflichten nachholen, Risiken mindern, Bereitstellung in der EU beschränken, Modell zurückziehen oder zurückrufen
101	Geldbußen	Bis zu 3 % des weltweiten Jahresumsatzes oder 15 Mio. Euro, je nachdem, was höher ist

Zwei Details machen die Tabelle schärfer, als sie aussieht. Bußgelder nach Artikel 101 gibt es nicht nur für Regelverstöße, sondern auch für falsche, unvollständige oder irreführende Antworten auf ein Auskunftsersuchen und für verweigerten Modellzugang. Und vor einer Anordnung nach Artikel 93 steht in der Regel ein strukturierter Dialog, in dem der Anbieter eigene Zusagen machen kann, die die Kommission dann für verbindlich erklärt.

Anders als bei den Hochrisiko-Pflichten, die der Digital Omnibus auf 2027 und 2028 verschoben hat, ist dieser Teil des AI Act also bereits anwendbar.

Was das für euch heißt

Wichtig vorweg: Die Ansage richtet sich an die Anbieter der Modelle. Wer Claude oder GPT per API in eigene Produkte einbaut, bekommt dadurch keine neuen Pflichten. Die Pflichten für Unternehmen, die KI einsetzen, stehen weiter in Artikel 50 und im AI-Act-Überblick.

Einordnung

Durchsetzung heißt in Brüssel bisher: Fragen stellen, Berichte entgegennehmen, Modelle testen lassen. Das klingt wenig, ist für sechs Wochen neue Befugnisse aber ein zügiger Start. Ein Verfahren gegen einen bestimmten Anbieter ist nicht bekannt, ein Bußgeld auch nicht.

Interessant ist das Timing. Einen Tag nach der Pressekonferenz hat Dario Amodei vorgeschlagen, externe Prüfer mit Hausausweis in die KI-Labore zu holen, und OpenAI will mitziehen, siehe unsere News zum Tempo-Essay. Was die Labore dort freiwillig anbieten, hat die EU mit Artikel 92 als Befugnis im Gesetz stehen. Offen ist auf beiden Seiten dasselbe: ob die Prüfer, egal ob eingeladen oder angeordnet, tief genug hineinsehen, um einen Agentenschwarm zu bemerken, bevor ihn Freiwillige in einem Grazer Wiki finden.