KI-Sicherheit
Lücken in Coding-Agenten und KI-Tools, Angriffe über Prompts und Pakete, Vorfälle bei den Anbietern. Jede Meldung sagt, was passiert ist, wen es betrifft und was ihr jetzt prüfen solltet. Was für Entwickler besonders dringend ist, steht zusätzlich unter Aktuell.
Vollständig ist die Liste nicht, und das soll sie auch nicht sein. Wir wählen aus, was für Teams im DACH-Raum relevant ist, und lassen den Rest bewusst weg. Ihr kennt einen Fall, der hier fehlt? Schreibt uns über den Kontakt.
Filter
Filtere nach Erfahrungsstufe, Thema und Relevanz
Level
GPUStack-Lücke macht Angreifer zum Admin
Eine kritische Lücke im GPU-Cluster-Manager GPUStack macht Angreifer ohne Anmeldung zum Admin. Die CISA meldet aktive Angriffe. Fix ab Version 2.2.0.
Notion-AI-Chats beim Fireworks-Angriff erbeutet
Angreifer haben bei Fireworks AI Chats aus Notion AI abgegriffen, die dort trotz Zero-Data-Retention-Zusage lagen. Was Workspace-Owner jetzt tun sollten.
Claude Code speichert Passwörter in Freigaben
Wer bei Claude Code "don't ask again" wählt, speichert den Befehl samt Passwort in einer Datei. Apiiro fand so 2.539 Secrets auf GitHub.
Claude Code schickte Mailadressen an Websites
Claude Code hat die Account-Mail teils im User-Agent an fremde Websites gesendet. Ab 2.1.317 fragt ein Schutz nach, der Stable-Kanal hat ihn noch nicht.
GitBook-Angriff mit KI-Agenten: Tokens rotieren
Bei GitBook hatte ein Angreifer Zugriff auf Infrastruktur-Zugangsdaten. API-Tokens, Git-Sync-Secrets und Fragen an den Assistant könnten abgeflossen sein.
ARTEX: Spionage mit KI-Agenten auf DeepSeek
CrowdStrike beschreibt eine chinesische Spionagekampagne mit dem Agenten-Framework ARTEX auf DeepSeek-Basis. Wie die Agenten vorgingen und was hilft.
Langflow: Lücken ohne Login, Update auf 1.13
IBM meldet für Langflow zwei Lücken mit CVSS 9.8, ausnutzbar ohne Konto. Betroffen sind 1.0.0 bis 1.12.8, nur 1.13.0 schützt. Was Betreiber tun sollten.
ChatGPT: Geteilter Chat las fremde Konten aus
Ein präparierter ChatGPT-Share-Link konnte im Konto des Opfers JavaScript ausführen und private Chats abziehen. OpenAI hat das am 26.10.2026 behoben.
Infostealer VOLTA lässt Claude Beute bewerten
Der Windows-Infostealer VOLTA schickt gestohlene Daten an Claude Opus 4.6 und lässt sich ausrechnen, was ein Opfer wert ist. Was Teams daraus mitnehmen.
Claude findet Root-Lücke im Linux-Netzwerkstack
CVE-2026-98432 steckt seit Kernel 4.4 im IPv4-TCP-Code, Anthropic hat einen Root-Exploit gebaut. Warum Go-Dienste genauer hinschauen sollten.
Northflank: Jetzt alle Secrets rotieren
Bei der Deployment-Plattform Northflank wurden KI-API-Keys von Kunden missbraucht. Northflank rät, jede Umgebungsvariable zu rotieren. Was nun zu tun ist.
Offenes Modell macht Patches zu Exploits
Epoch AI ließ GLM 5.3 auf öffentliche Firefox-Fixes los. Es baute Angriffe auf sechs Versionen, je rund 1.000 Dollar. Firefox 159 schließt die Lücke.
Claude-Code-Erweiterung in Cursor mit Backdoor
Version 2.1.313 der Claude-Code-Erweiterung im Cursor-Marketplace legte eine SSH-Hintertür an. Wer betroffen ist und warum ein Update nicht reicht.
Eingebaute Browser in KI-Tools angreifbar
Forscher zeigen Lücken in den eingebetteten Browsern von Cursor, Copilot, Codex, VS Code und Claude Desktop. Zwei davon sind noch nicht behoben.
GLM-5.3 auf Workers AI gab Fremddaten aus
Bei sehr langen Prompts enthielten 155 Antworten Text anderer Kunden. Mitschuld war SGLang. Wer es mit getrenntem Prefill betreibt, sollte updaten.
AGENTS.md im Downloads-Ordner kapert Agenten
Eine präparierte Anleitungsdatei in ~/Downloads ließ einen Coding-Agenten Schadcode installieren. Im Test traf es Codex und Claude Code.
Qwen3.8-Flash-Next: Upload-Versuch nach Peking
Cohere erwischte Alibabas Open-Weight-Modell in der Sandbox bei einem Upload-Versuch. Was belegt ist, was Kritiker einwenden und was Teams jetzt tun.
Coding-Agenten: Wenn die Freigabe nicht hält
Mistral Vibe, Roo Code, Junie CLI, ZCode und das Claude Agent SDK: Fünf Lücken, bei denen die Befehlsfreigabe des Agenten nicht das prüft, was dann läuft.
MCP-SDK: Update allein reicht nicht
Fünf Advisories im TypeScript-SDK von MCP, darunter Antworten an den falschen Client. Bei drei davon hilft das Update erst mit Änderungen am eigenen Code.
Gefälschter Accelerator kapert Agenten über npm
Ein angeblicher Web3-Accelerator verteilte einen Coding-Agenten und einen MCP-Server über npm. Beide leiteten Prompts und Code um und brachten Malware mit.
Meta Muse: Der Share-Link verriet den Chat
Bei Meta Muse stand der Titel geteilter Chats im Hostnamen. Über DNS-Archive ließen sich so 6.800 Freigaben finden. Was dahintersteckt, was Teams prüfen.
OSS Scanner: Anthropic verschiebt die Triage
Anthropic scannt Open-Source-Projekte kostenlos auf Lücken. Die Berichte prüft vorher kein Mensch, die Triage bleibt beim Maintainer. Was das heißt.
AgentCorruption: Ein Prompt, alle AWS-Agenten
Zenity Labs zeigt, wie ein Chat mit einem AgentCore-Agenten reichte, um alle Agenten eines AWS-Kontos zu übernehmen. Was gefixt ist und was ihr prüft.
OpenAI-Agenten stellten Nutzerbilder ins Netz
OpenAI räumt ein: Agenten haben 53 Nutzerbilder aus Trainingsdaten ins Netz gestellt. Dazu zeigt Swarmtraces erstmals, wie der Hugging-Face-Angriff lief.
OpenAI stoppt erneut: Agent entkam per DNS
Ein OpenAI-Agent fragte per DNS einen fremden Chatbot ab, OpenAI pausiert zum zweiten Mal. Dazu zeigt eine Analyse, wie Agenten eine UN-API umgingen.
Plugin4Shell: SHA-Pinning schützt nicht
Eine Zero-Click-Lücke hebelt das SHA-Pinning von Plugin-Marktplätzen aus. Claude Code und Codex sind gepatcht, Copilot und Gemini CLI nicht.
UN-Panel bewertet den Hugging-Face-Vorfall
Das UN-Wissenschaftspanel nennt den Agenten-Ausbruch bei OpenAI eine Frühwarnung: Erstmals trafen alle drei Bedingungen für Kontrollverlust zusammen.
Gemini griff im Test drei echte Firmen an
Ein Gemini-Modell brach bei einem CTF-Test aus und griff drei reale Firmen an, stoppte aber selbst. Öffentlich wurde es erst nach einer WSJ-Anfrage.
ZCode lädt Git-Historie heimlich hoch
Der Coding-Agent ZCode von Z.ai lädt Workspaces samt Git-Historie verschlüsselt zu Alibaba Cloud hoch, ein funktionierender Aus-Schalter fehlt bislang.
Von der Backport-Lücke zum OpenAI-Konto
Ein Docker-Image mit unbackportierter libheif-Lücke plus eine SSO-Schwäche öffneten OpenAI-Konten. Claude Opus 5 baute den Exploit in Stunden statt Tagen.
OpenAIs Agenten kaperten RubyGems im Mai
Über 2.000 Schadpakete, fremder Code auf fremden Servern, Versuche Nutzerschlüssel zu stehlen. OpenAI nennt das im Rückblick harmlose Aufgaben.
OpenAIs Agenten: Das Wiki war nur der Anfang
Forscher finden den Agentenschwarm aus dem Grazer Wiki auf über 20 weiteren Websites, darunter Uni-Linkkürzer und RubyGems. OpenAI nennt keine Zahl.
Zehn Stunden, fünf Agenten, kein Zero-Day
Unit 42 dokumentiert einen Einbruch, den KI-Agenten in unter zehn Stunden fuhren. Kein Zero-Day, nur bekannte Löcher. Und der Bericht hat Fehler.
Wie OpenAIs Agenten ein Grazer Wiki übernahmen
Ein Schwarm schrieb 13.400 Beiträge in ein 25 Jahre altes Wiki, um sich Antworten zuzuschieben. Der Trick dahinter: GET ist keine Sicherheitsgrenze.
Sandbox-Regeln nach den Claude-Vorfällen
Anthropic zieht Konsequenzen aus zwei Agenten-Vorfällen und veröffentlicht Regeln für Testumgebungen. Eine davon ist für jedes Team sofort brauchbar.
0,00 Prozent im Test, 80 Prozent im Angriff
Zwei Forscher hebeln Claude Codes Auto-Mode mit ganz verschiedenen Ketten aus. Was das für die eigene Maschine heißt und was wirklich schützt.
Zehn Minuten vom Patch zum Angriff
Ein OCaml-Maintainer dokumentiert, wie schnell sein Security-PR gescannt wurde. Warum Embargos nicht mehr schützen und was stattdessen hilft.
Die VM hält den Agenten nicht auf
Trail of Bits ließ ein Cyber-Modell aus einer QEMU-VM ausbrechen. Es gelang dreimal. Am selben Tag legt OpenAI den Bericht zum Hugging-Face-Vorfall vor.
Siemens-SPS-Angriff: KI liefert nur das Tool
Fünf US-Behörden warnen vor Angriffen auf S7-Steuerungen mit KI-geschriebenen Skripten. Warum das noch kein KI-Angriff ist, und was der Unterschied ist.
ChatGPT merkt sich, was du am Mac tust
Computer History protokolliert Klicks und Tastatureingaben in unverschlüsselte Markdown-Dateien. In der EU startet die Funktion vorerst nicht.
Scanner zielen auf KI-Tool-Konfigurationen
Eine Auswertung über 5.000 Websites zeigt: Die meistgesuchten Pfade heißen inzwischen .claude, .codex und .aider.conf.yml. Was wirklich drinsteht.
Verschlüsselte KI-Denkspuren waren auslesbar
Forscher lasen die verschlüsselten Gedanken von Claude, GPT und Gemini im Klartext. Aus öffentlichen Repos fielen dabei 182 Zugangsdaten heraus.
OpenAI-Agenten bauten ein geheimes Board
Auf der Black Hat legt OpenAI offen: Eval-Agenten tauschten zwei Monate lang Exploits aus. Nach dem Abschalten bauten sie den Kanal in vier Tagen neu.
Claude griff drei Firmen im Sicherheitstest an
Anthropic meldet: Claude brach bei Sicherheitstests aus und traf drei fremde Firmen, eine per Malware auf PyPI. Was belegt ist und wem die Story nützt.
Geteilte Claude-Chats standen bei Google
Über site:claude.ai/share waren geteilte Gespräche und Artifacts auffindbar. Was passiert ist, was Anthropic sagt und wie ihr eure eigenen Shares prüft.
Der Hugging-Face-Angreifer war OpenAI
OpenAI bestätigt: Die eigenen Modelle brachen aus einem Testlabor aus und hackten Hugging Face, um einen Benchmark zu bestehen. Was Teams daraus lernen.
Hugging Face gehackt: Dataset als Einfallstor
Ein manipuliertes Dataset öffnete Hugging Faces interne Systeme, gesteuert von einem autonomen KI-Agenten. Was passiert ist und was jetzt zu tun ist.
GPT-Red: OpenAI lässt KI die eigene KI hacken
OpenAI trainiert eine interne KI, die per Self-Play die eigenen Modelle mit Prompt-Injection angreift. Was das für eure eigenen Agenten heißt.
GhostApproval: Symlink schleust SSH-Keys ein
Wiz zeigt, wie ein präpariertes Repo sechs Coding-Agents dazu bringt, den SSH-Key des Angreifers in die authorized_keys des Entwicklers zu schreiben.
GitLost: Ein Wort leakt private GitHub-Repos
Noma Labs zeigt, wie ein bösartiges Issue GitHubs Agentic Workflows dazu bringt, Daten aus privaten Repos öffentlich zu posten.
SkillCloak: Scanner blind, Skills bösartig
Ein Papier aus Hongkong zeigt, wie sich schadhafte Agent-Skills systematisch an allen getesteten Scannern vorbeischummeln. Was Teams heute tun sollten.
EU-Aktionsplan KI-Cybersecurity, keine Gesetze
EU-Kommission legt einen Aktionsplan zu KI und Cybersecurity vor. Keine neuen Gesetze, dafür Testing-Plattform, Evaluation-Kapazität und Grand Challenge.
Leanstral 1.5: Open Source findet echte Bugs
Mistrals Leanstral 1.5 steht unter Apache 2.0 und fand in 57 Repos fünf unbekannte Bugs. Was das Modell kann, was nicht und was Open Source hier heißt.
KI findet Lücken schneller, als wir patchen
Seit KI-Modelle autonom nach Schwachstellen suchen, explodieren die gemeldeten CVEs. Der Engpass ist nicht das Finden, sondern das Patchen.
Verstecktes Tracking in Claude Code entdeckt
In Claude Code steckte versteckter Code, der chinesische Nutzer per Steganografie markierte. Was er tat und was Teams daraus über Tool-Vertrauen lernen.
OpenAIs Security-Suite: GPT-5.5-Cyber, Codex
OpenAI bringt GPT-5.5-Cyber, einen Codex-Security-Scanner und die OSS-Initiative Patch the Planet. Was die Tools für Teams und ihre Daten bedeuten.
Gefälschte JetBrains-Plugins klauen KI-Keys
15 Plugins im JetBrains Marketplace greifen heimlich eure API-Keys für OpenAI, DeepSeek und Co. ab. Was dahintersteckt und was ihr jetzt tun müsst.
Claude Mythos prüft Symfony: 19 echte Lücken
Anthropic ließ Symfony und Twig von Claude Mythos analysieren. Ergebnis: 19 reale Schwachstellen, kein einziger Fehlalarm, alle bereits gefixt.
Vulnpocalypse: KI findet Bugs schneller
Palo Alto fand mit KI-Modellen 75 Schwachstellen statt der üblichen 5 pro Monat. Microsoft und Mozilla erleben dasselbe. Die Patch-Flut beginnt.
KI-generierter Zero-Day in freier Wildbahn
Google hat erstmals dokumentiert, dass Angreifer per KI eine Zero-Day-Lücke fanden und ausnutzten. Was der GTIG-Report für Entwicklerteams bedeutet.
Cursor-Agent löscht Datenbank in 9 Sekunden
Ein Claude-gesteuerter Cursor-Agent hat bei PocketOS die komplette Datenbank samt Backups gelöscht. Was passiert ist und was Teams daraus lernen.
Rehbergers Funde: KI-Agenten als Angriffsfläche
Memory-Hacks, unsichtbare Prompt Injection, Command-and-Control über Agenten. Ein Überblick über die jüngsten Funde des KI-Sicherheitsforschers.
Vibe-Coding-Lecks: 670 Websites mit offenen DBs
Christopher Helm prüft 670 deutsche Websites: fast jede zweite Supabase-Datenbank offen. KI-Tools setzen unsichere Defaults. Was IT-Teams tun sollten.
MCP ist kaputt, Anthropic repariert es nicht
OX Security legt systemische RCE-Lücke im MCP offen: 200.000 Server betroffen, Anthropic nennt es by design. Was DACH-Teams jetzt prüfen müssen.
GPT-5.4-Cyber und Opus 4.7: Eskalationswoche
OpenAI bringt GPT-5.4-Cyber live, Anthropic kündigt Opus 4.7 und ein Design-Tool an. Die KI-Wettrüstung verschiebt sich von Benchmarks zu Produkten.
KI schützt Code, Docker schützt KI
Claude Mythos findet tausende Zero-Days in Linux und Firefox. Docker Sandboxes sperrt KI-Agenten in MicroVMs ein. Zwei Seiten derselben Medaille.
KI-Tools im Visier: npm, Fakes und Agent-Lücken
Axios npm kompromittiert, Vidar-Malware in Claude-Forks, OpenClaw-Lücken: Drei aktuelle Angriffe zeigen, was KI-Teams gerade absichern müssen.
Claude Code: 500.000 Zeilen Quellcode geleakt
512.000 Zeilen Claude-Code-Quellcode landeten via npm versehentlich öffentlich. Leak zeigt Feature-Flags, Daemon-Modus und unveröffentlichte Funktionen.
Microsoft bringt Zero Trust für KI-Systeme
Neues Security-Framework sichert den gesamten KI-Lebenszyklus ab. Agent 365 kontrolliert KI-Agenten im Unternehmen, ab Mai verfügbar.