Dragos: Prompts bei KI-Anbietern abgegriffen
Dragos schickte zwei Millionen Prompts mit Köder-Zugangsdaten los. Angreifer und Reseller lasen mit, ZDR half wenig. OpenRouter wirft drei Anbieter raus.
Das Forschungsteam von HD Moore bei Dragos hat von Juli bis November 2026 rund zwei Millionen Prompts an verbreitete KI-Dienste geschickt. In jedem steckten eindeutige Köder: AWS-Schlüssel, Hostnamen, URLs und Passwörter, die es nirgendwo sonst gab. Dann hat das Team beobachtet, wer sie benutzt. Das Ergebnis vom 19.11.2026 ist unangenehm (Dragos): Prompts wurden gestohlen, von Zwischenhändlern mitgelesen und an Firmen weitergereicht, die sie nie hätten sehen sollen. Auch dann, wenn die Anfrage das Flag für Zero Data Retention (ZDR) trug.
Am 22.11.2026 hat OpenRouter reagiert (OpenRouter). Der Router hat drei Anbieter von der Plattform genommen, 125 Endpunkte aus der ZDR-Berechtigung gestrichen und nach eigener Aussage alle möglicherweise betroffenen Kunden benachrichtigt. OpenRouter selbst sei nicht kompromittiert worden.
Drei Befunde
Einbrüche bei drei Anbietern
Angreifer saßen bei mindestens drei Inference-Anbietern drin. Keiner der drei wusste davon, bis Dragos sich meldete, der früheste Einbruch reicht bis Mitte Juli zurück. Beim größten Fall wurden in einigen Zeitfenstern Ende Oktober alle Anfragen kopiert, auch solche, die der Anbieter abgelehnt hatte, bevor überhaupt ein Modell lief. Der Angreifer saß also direkt am Eingang. Bei den beiden anderen Einbrüchen waren auch ZDR-Anfragen unter der Beute. Mit den erbeuteten AWS-Schlüsseln liefen zehntausende API-Aufrufe: S3-Buckets auflisten, Secrets Manager durchsuchen, eigene IAM-Nutzer anlegen, Bedrock-Modelle freischalten. Ab dem 01.11. setzte derselbe Angreifer auch das KI-Angriffswerkzeug ARTEX ein, über das wir im Fall Vapor Panda berichtet haben. Dragos empfiehlt, die User-Agents artex-agent und artex-judge-r121 in die eigene Erkennung aufzunehmen, sie standen bisher auf keiner öffentlichen Liste.
Reseller lesen über ihr Logging mit
Für den zweiten Befund brauchte es keinen Einbruch. Auf einem Inference-Marktplatz bekommt der günstigste Anbieter die Anfrage. Einzelne Verkäufer stellten Modelle billig ein, schalteten das Request-Logging an und warteten. Dragos beobachtete Privatleute an Heimanschlüssen, die die geheimen URLs im Browser öffneten und die Passwörter aus den Prompts von Hand per SSH als root ausprobierten. Ein anderer Router leitete einen Teil seines Verkehrs heimlich an diesen Marktplatz weiter, ohne das offenzulegen.
Prompts bei Firmen, die sie nie sehen sollten
Das System eines chinesischen KI-Labors rief die geheimen URLs aus mehr als der Hälfte der Prompts an seine Modelle ab, darunter etwa zwei Drittel der Anfragen mit "no data collection" oder ZDR. Das passierte auch, wenn die Anfrage über US-Anbieter lief, die die Modelle des Labors weiterverkaufen. In einem Fall tauchte ein geheimer Link 24 Tage nach der Anfrage in einem Firmenchat auf Feishu auf und wurde binnen zwei Minuten von sechs Geräten in Peking und Schanghai geöffnet. Auch große US-Anbieter fallen auf: Einer rief eine geheime URL noch mehr als zwei Monate nach einer einzigen Anfrage an seinen Such-Endpunkt ab.
Namen nennt Dragos nicht. OpenRouter nennt die drei entfernten Anbieter ebenfalls nicht, und ob es dieselben drei sind wie bei den Einbrüchen, sagt keiner der beiden.
Wer sich bisher gemeldet hat
Drei Anbieter haben Vorfälle öffentlich bestätigt:
| Anbieter | Was passiert ist | Betroffener Zeitraum |
|---|---|---|
| Together AI | Ein KI-Coding-Agent hat beim Arbeiten an einem öffentlichen GitHub-Repo einen Zugangstoken zu einem privaten Hugging-Face-Repo committet. Darüber wurden gespeicherte Prompt-Proben heruntergeladen und nach Zugangsdaten durchsucht | Anfragen an MiniMax M3, GLM-5.2 und Kimi K2.6, vor allem vom 24.06., 04.07., 08.07. und 14.07.2026 |
| Phala | Ein Angreifer übernahm einen Inference-Server, der ohne die volle Härtung im Produktivbetrieb lief, und konnte Anfragen während der Verarbeitung mitlesen | Anfragen an DeepSeek V4 Flash 0731 über OpenRouter vom 21.10.2026, 00:00 UTC, bis 08.11.2026, 05:35 UTC |
| Novita | Durch einen Fehler im Routing gingen einige MiniMax-Anfragen an die offizielle MiniMax-API weiter, als für die Kunden vorgesehen. Dritte könnten die Inhalte gelesen oder gespeichert haben | Novita nennt keinen Zeitraum |
Together hat ZDR inzwischen zur Voreinstellung für neue Konten gemacht und seine Regeln für KI-Coding-Agenten verschärft. Das Detail mit dem Agenten ist bemerkenswert: Ausgerechnet ein Werkzeug, das viele von euch täglich nutzen, hat das Loch aufgerissen.
Was ihr tun solltet
Wer Modelle über OpenRouter oder direkt bei einem der genannten Anbieter nutzt, sollte zuerst prüfen, ob eine Benachrichtigung von OpenRouter eingegangen ist. Für die Zeiträume aus der Tabelle gilt: Alles, was in Prompts stand, als offengelegt behandeln. API-Schlüssel, Tokens und Passwörter aus diesen Anfragen rotieren und die betroffenen Konten auf ungewöhnliche Aktivität prüfen.
Darüber hinaus lohnt sich ein ehrlicher Blick auf die eigene Architektur. Ein Modellrouter spart Geld und Verwaltungsaufwand, aber jede Station auf dem Weg sieht den kompletten Prompt und die Antwort. Dragos fasst es so zusammen: Ein Datenschutz-Flag bindet nur die erste Station. Daraus leiten die Forscher einige Empfehlungen ab:
- Upstream-Anbieter selbst festlegen, statt den Standard-Pool des Routers zu nehmen, und prüfen, ob sich durch die Datenschutz-Einstellungen tatsächlich ändert, wohin Anfragen gehen.
- Reseller-Marktplätze meiden. Ein Teil der günstigen Kapazität dort läuft laut Dragos über gestohlene Schlüssel.
- Direkt beim Modellanbieter buchen, wo es geht. Ein Vertrag, eine Datenschutzerklärung, eine Station.
- Eigene Köder auslegen. Ein gefälschter Zugangsschlüssel im Kontext, den eure Agenten und Pipelines ohnehin senden, wird zur Stolperfalle. Ein kostenloser Canarytoken von Thinkst reicht für den Anfang.
- Secret-Filter einschalten, wo Anbieter das anbieten. Die erkennen allerdings nur Zugangsdaten mit bekanntem Format, nicht den vertraulichen Quellcode oder die Kundendaten im selben Prompt.
Die wichtigste Regel ist alt, wird aber mit Agenten dringender: Zugangsdaten gehören nicht in Prompts. Ein Agent schickt alles mit, was er lesen kann. Wer ihm .env-Dateien oder Konfigurationen mit Schlüsseln zugänglich macht, verschickt sie im Zweifel an jede Station der Kette.
Für Teams im DACH-Raum kommt die DSGVO dazu. Wer personenbezogene Daten über einen Router schickt, sollte wissen, welche Firmen auf dem Weg liegen und in welchen Ländern sie sitzen. Laut Dragos ist das ohne eigene Messung kaum herauszufinden: Bei rund 2000 nachverfolgten Routen fanden sich einige hundert Systeme, die das Team keinem Betreiber zuordnen konnte. Dass ZDR ein Vertragsversprechen und keine technische Sperre ist, hatte schon der Fireworks-Vorfall bei Notion AI gezeigt. Die Dragos-Studie zeigt, dass das kein Einzelfall war.
Quellen6
- Dragos: AI Supply Chain Security, What Canary Tokens Found (HD Moore, 19.11.2026)dragos.com
- OpenRouter: Data processing incidents on inference providers (22.11.2026)openrouter.ai
- Together AI: Security event, prompt leakage for requests in June and July of 2026together.ai
- Phala: November preliminary incident report (10.11.2026)phala.com
- Novita AI auf X: Hinweis zu MiniMax-Anfragen (21.11.2026)x.com
- The Hacker News: OpenRouter Drops 3 Providers After Researchers Catch Months of Prompt Theft at AI Hosting Firms (22.11.2026)thehackernews.com