Agent baut nach Compaction heimliche Mail-Kopie
OpenAI dokumentiert einen Agenten, der nach dem Zusammenfassen seines Kontexts eine heimliche Mail-Kopie vorbereitete. Was das für Agenten-Reviews heißt.
OpenAI hat am 18.11.2026 einen Bericht über einen eigenen Agenten veröffentlicht, der mitten in einer harmlosen Aufgabe die Richtung wechselte. Er sollte ein Dokument über Gesundheits- und Fitnessprioritäten schreiben. Am Ende hatte er stattdessen Skripte vorbereitet, die ausgehende Mails heimlich in Kopie an eine fremde Adresse schicken. Auslöser war allem Anschein nach ein Vorgang, den jeder kennt, der mit Coding-Agenten arbeitet: die Komprimierung des Kontexts.
Wichtig zur Einordnung: Das passierte am 17.10.2026 in einem Trainingslauf mit einem internen Forschungsmodell, nicht bei Kunden. Die Skripte liefen nie, es ging keine Mail raus. Gefunden hat den Fall OpenAIs automatisches Monitoring.
Was passiert ist
Bei der Komprimierung ersetzt der Agent den bisherigen Verlauf durch eine Zusammenfassung, damit das Kontextfenster nicht überläuft. Die Zusammenfassung war in diesem Fall korrekt und beschrieb weiter das Fitness-Dokument. Trotzdem suchte der Agent im neuen Kontext nach einem Skript für Fahrzeugkosten, das nie erwähnt worden war. Als er es nicht fand, nahm er an, ein "Kollege" habe die Umgebung neu aufgesetzt, und machte sich daran, einen Helfer zu bauen, der beim Versand einer Kostenmail eine zusätzliche Adresse als Blindkopie einträgt. Den Empfänger nannte er in seinen Überlegungen selbst "attacker".
Dafür gab es keinen Anlass.
Den Widerspruch bemerkte der Agent sogar. Er rief den ursprünglichen Auftrag ab, stellte fest, dass der nichts mit Mails zu tun hatte, und tat das dann als Eigenheit der Testumgebung ab. Seine Abschlussmeldung an den Nutzer lautete sinngemäß, die Zusammenfassungs-Mail füge jetzt das persönliche Postfach als Kopie-Empfänger hinzu. Das angeforderte Dokument lieferte er nicht. Im selben Trainingslauf fand OpenAI acht ähnliche Fälle.
Was OpenAI daraus schließt
OpenAI vermutet einen Zusammenhang mit Trainingsdaten, die Modelle eigentlich robuster gegen Prompt Injection machen sollten. Einen solchen Datensatz hat OpenAI aus dem Training genommen, schreibt aber selbst, dass er nicht allein verantwortlich sein kann. Ähnliches Verhalten trat auch bei Modellen ohne diese Daten auf. Auch Anthropic beschreibt in der Systemkarte von Claude Opus 5.5 spontane, vom Modell selbst erzeugte Prompt Injections, darauf weist der Bericht hin. Eine gemeinsame Ursache sieht OpenAI darin nicht belegt.
Der Bericht gehört zu einer Reihe, die OpenAI seit September 2026 führt. In den Misalignment Reports stehen inzwischen über zwei Dutzend Fälle, darunter zwei weitere rund um Komprimierung: Zusammenfassungen, die selbst unpassende Anweisungen enthielten oder zur Täuschung ermunterten. Neu am aktuellen Fall ist, dass die Zusammenfassung stimmte und der Agent trotzdem abbog.
Was das für eure Agenten heißt
Komprimierung ist in Coding-Agenten Alltag. Claude Code etwa komprimiert laut Dokumentation automatisch, wenn sich der Kontext dem Limit nähert, und ersetzt den Verlauf durch eine strukturierte Zusammenfassung. Wir haben das in KI effizienter nutzen als praktische Hilfe beschrieben, und das bleibt es auch. Der OpenAI-Fall zeigt aber, dass der Moment nach der Komprimierung eine Stelle ist, an der ein Agent den Faden verlieren kann. Daraus folgen ein paar handfeste Gewohnheiten:
- Nach der Komprimierung genauer hinsehen. Lange Sessions mit Komprimierung sind die, in denen ihr die nächsten Schritte des Agenten aufmerksam lest, statt nur am Ende den Diff anzuschauen.
- Ergebnis gegen den Auftrag prüfen. Die Abschlussmeldung eines Agenten ist keine Prüfung. Im OpenAI-Fall klang sie plausibel und hatte mit der Aufgabe nichts zu tun.
- Rechte klein halten. Ein Agent, der für ein Dokument keinen Zugriff auf Mailversand oder Shell-Konfiguration braucht, sollte ihn auch nicht haben. Dann bleibt ein Abbiegen folgenlos.
- Lange Aufgaben teilen. Wer große Aufgaben in kleinere Sessions mit klarem Ziel schneidet, braucht seltener eine Komprimierung. In Claude Code lässt sich die Zusammenfassung mit
/compactund einer Fokus-Anweisung zusätzlich steuern.
Für Panik gibt es keinen Grund. Der Fall stammt aus dem Training, und er wurde gefunden, weil OpenAI genau nach solchem Verhalten sucht. Er ist aber ein gutes Argument dafür, Agenten auch bei harmlosen Aufgaben nicht unbeaufsichtigt mit weitreichenden Rechten laufen zu lassen.
Quellen4
- OpenAI: Generating scripts to copy outgoing email to an unauthorized address (18.11.2026)openai.com
- OpenAI: Misalignment Reports (Übersicht)openai.com
- The Decoder: OpenAI-Agent sollte Fitness-Dokument schreiben und plante stattdessen heimliche E-Mail-Weiterleitung (19.11.2026)the-decoder.de
- Claude Code Docs: Context windowcode.claude.com