Revolut hostet seine Coding-KI jetzt selbst

Bei Revolut laufen die Coding-Agenten inzwischen hauptsächlich auf einem selbst gehosteten offenen Modell. Claude Code, Codex und die anderen Spitzenmodelle sind dort die Ausnahme, nicht mehr der Standard. Das hat David Abitbol, der bei der Digitalbank die KI-Infrastruktur verantwortet, in einem knapp zwölfminütigen Talk bei AI Engineer erzählt. Das Video ist seit dem 29.10.2026 online, seit dem 03.11. wird es auf Hacker News diskutiert.

Die Zahlen aus dem Talk

Revolut hat nach eigenen Angaben 80 Millionen Kunden und ist in Europa als Bank reguliert. Abitbol zeigt Werte aus einer Stichprobe von 2.000 Engineers über ein Jahr:

	Angabe von Revolut
Modell	GLM von Z.ai, seit April 2026 selbst gehostet, zuerst GLM-5.1, heute GLM-5.3
Hardware	56 Nvidia B200 für rund 2.000 Engineers
Kosten	gemischt etwa 30 Cent pro Million Token, die Rechnung liegt bei einem Zehntel der vorherigen
Wirkung	60 Prozent kürzere Coding-Zeit, 70 Prozent kürzere Lead Time vom Ticket bis zum Merge
Latenz	Time to First Token von über 10 auf rund 1,6 Sekunden gedrückt, bei gleicher GPU-Zahl

Die Wirkungszahlen sind Eigenangaben ohne offengelegte Methodik. Spannend ist trotzdem, wie Abitbol sie erklärt. Mit Claude Code habe sich anfangs wenig getan, weil Revolut wegen hoher Kosten strenge Budgets gesetzt hatte. Einzelne Engineers hätten 10.000 im Monat ausgegeben (die Währung nennt er nicht), ohne dass viel dabei herauskam. Dann fielen die Budgets weg. Erst als Token nicht mehr knapp waren, kam der Sprung in den Zahlen, und Abitbol hat dafür eine einfache Erklärung: Wer nicht sparen muss, nutzt den Agenten auch für das Suchen in fremdem Code und lästige Konfigurationsarbeit, nicht nur für die schwierigsten Aufgaben am Quartalsende.

Was er übers Betreiben verrät

Gewichte auf GPUs laden reicht laut Abitbol nicht, ohne Tuning sei die Leistung "terrible". Ein paar seiner Erfahrungswerte:

Unter drei Sekunden bis zum ersten Token. Ab fünf Sekunden beschweren sich die Leute. Der Durchsatz ist weniger wichtig, rund 200 Token pro Sekunde reichen, weil Engineers Aufgaben parallel laufen lassen und nicht mehr beim Denken zusehen.
Kontext nicht ausreizen. Eine Million Token Kontext brauche niemand, 256.000 reichten.
Quantisierung und Cache. Auf Blackwell-GPUs empfiehlt er FP4, das spare viel GPU-Speicher. Bei Coding-Aufgaben sollte der Cache-Anteil über 90 Prozent liegen.
Vision auslagern. GLM-5.3 versteht nur Text. Bilder schickt ein lokaler Router an ein anderes Modell, etwa Gemini.

Die Endpunkte sind OpenAI-kompatibel, deshalb laufen OpenCode und die Codex-Werkzeuge dagegen.

Regulierung und Datenschutz

Für eine regulierte Bank ist der interessanteste Teil der Schluss. Abitbol argumentiert, dass die Agenten keine autonomen Systeme sind, weil immer ein Mensch freigibt. Belegen soll das eine Sandbox mit festen Regeln, welche Befehle ohne Rückfrage laufen dürfen. Das schütze auch vor Missbrauch durch eigene Leute. Bei chinesischen Modellen sieht er kein Datenproblem, solange man nur die Gewichte nimmt und auf eigener Hardware in einem Land mit gleichwertigem Datenschutzniveau betreibt. Dazu gehört für ihn starkes Logging über OpenTelemetry, um Vorfälle nachvollziehen zu können.

Was davon übertragbar ist

56 B200 kauft man nicht nebenbei. So eine Investition rechnet sich nur bei sehr hohem Verbrauch. Wie viel Revolut vorher für Token ausgegeben hat, sagt Abitbol nicht. Für ein Team mit zehn Leuten ist die konkrete Rechnung deshalb nicht übertragbar. Die Beobachtung dahinter schon: Strenge Token-Budgets bremsen genau die Nutzung, die laut Revolut am meisten bringt. Wer Budgets setzt, sollte prüfen, ob sie das Ausprobieren im Alltag abwürgen.

Vor dem Nachbauen lohnt ein Blick auf die Lizenz. GLM-5.3 steht auf Hugging Face unter license: other, nicht unter MIT. Für normale Unternehmen ist die Sonderklausel bedeutungslos, sie greift erst bei Anbietern mit über 10 Milliarden Dollar Umsatz. Details und Hardwareanforderungen stehen in unserer Meldung zu den offenen Gewichten von GLM-5.3.