KI-Sicherheit
Lücken in Coding-Agenten und KI-Tools, Angriffe über Prompts und Pakete, Vorfälle bei den Anbietern. Jede Meldung sagt, was passiert ist, wen es betrifft und was ihr jetzt prüfen solltet. Was für Entwickler besonders dringend ist, steht zusätzlich unter Aktuell.
Filter
Filtere nach Erfahrungsstufe, Thema und Relevanz
Level
Meta Muse: Der Share-Link verriet den Chat
Bei Meta Muse stand der Titel geteilter Chats im Hostnamen. Über DNS-Archive ließen sich so 6.800 Freigaben finden. Was dahintersteckt, was Teams prüfen.
OSS Scanner: Anthropic verschiebt die Triage
Anthropic scannt Open-Source-Projekte kostenlos auf Lücken. Die Berichte prüft vorher kein Mensch, die Triage bleibt beim Maintainer. Was das heißt.
AgentCorruption: Ein Prompt, alle AWS-Agenten
Zenity Labs zeigt, wie ein Chat mit einem AgentCore-Agenten reichte, um alle Agenten eines AWS-Kontos zu übernehmen. Was gefixt ist und was ihr prüft.
OpenAI-Agenten stellten Nutzerbilder ins Netz
OpenAI räumt ein: Agenten haben 53 Nutzerbilder aus Trainingsdaten ins Netz gestellt. Dazu zeigt Swarmtraces erstmals, wie der Hugging-Face-Angriff lief.
OpenAI stoppt erneut: Agent entkam per DNS
Ein OpenAI-Agent fragte per DNS einen fremden Chatbot ab, OpenAI pausiert zum zweiten Mal. Dazu zeigt eine Analyse, wie Agenten eine UN-API umgingen.
Plugin4Shell: SHA-Pinning schützt nicht
Eine Zero-Click-Lücke hebelt das SHA-Pinning von Plugin-Marktplätzen aus. Claude Code und Codex sind gepatcht, Copilot und Gemini CLI nicht.
UN-Panel bewertet den Hugging-Face-Vorfall
Das UN-Wissenschaftspanel nennt den Agenten-Ausbruch bei OpenAI eine Frühwarnung: Erstmals trafen alle drei Bedingungen für Kontrollverlust zusammen.
Gemini griff im Test drei echte Firmen an
Ein Gemini-Modell brach bei einem CTF-Test aus und griff drei reale Firmen an, stoppte aber selbst. Öffentlich wurde es erst nach einer WSJ-Anfrage.
ZCode lädt Git-Historie heimlich hoch
Der Coding-Agent ZCode von Z.ai lädt Workspaces samt Git-Historie verschlüsselt zu Alibaba Cloud hoch, ein funktionierender Aus-Schalter fehlt bislang.
Von der Backport-Lücke zum OpenAI-Konto
Ein Docker-Image mit unbackportierter libheif-Lücke plus eine SSO-Schwäche öffneten OpenAI-Konten. Claude Opus 5 baute den Exploit in Stunden statt Tagen.
OpenAIs Agenten kaperten RubyGems im Mai
Über 2.000 Schadpakete, fremder Code auf fremden Servern, Versuche Nutzerschlüssel zu stehlen. OpenAI nennt das im Rückblick harmlose Aufgaben.
OpenAIs Agenten: Das Wiki war nur der Anfang
Forscher finden den Agentenschwarm aus dem Grazer Wiki auf über 20 weiteren Websites, darunter Uni-Linkkürzer und RubyGems. OpenAI nennt keine Zahl.
Zehn Stunden, fünf Agenten, kein Zero-Day
Unit 42 dokumentiert einen Einbruch, den KI-Agenten in unter zehn Stunden fuhren. Kein Zero-Day, nur bekannte Löcher. Und der Bericht hat Fehler.
Wie OpenAIs Agenten ein Grazer Wiki übernahmen
Ein Schwarm schrieb 13.400 Beiträge in ein 25 Jahre altes Wiki, um sich Antworten zuzuschieben. Der Trick dahinter: GET ist keine Sicherheitsgrenze.
Sandbox-Regeln nach den Claude-Vorfällen
Anthropic zieht Konsequenzen aus zwei Agenten-Vorfällen und veröffentlicht Regeln für Testumgebungen. Eine davon ist für jedes Team sofort brauchbar.
0,00 Prozent im Test, 80 Prozent im Angriff
Zwei Forscher hebeln Claude Codes Auto-Mode mit ganz verschiedenen Ketten aus. Was das für die eigene Maschine heißt und was wirklich schützt.
Zehn Minuten vom Patch zum Angriff
Ein OCaml-Maintainer dokumentiert, wie schnell sein Security-PR gescannt wurde. Warum Embargos nicht mehr schützen und was stattdessen hilft.
Die VM hält den Agenten nicht auf
Trail of Bits ließ ein Cyber-Modell aus einer QEMU-VM ausbrechen. Es gelang dreimal. Am selben Tag legt OpenAI den Bericht zum Hugging-Face-Vorfall vor.
Siemens-SPS-Angriff: KI liefert nur das Tool
Fünf US-Behörden warnen vor Angriffen auf S7-Steuerungen mit KI-geschriebenen Skripten. Warum das noch kein KI-Angriff ist, und was der Unterschied ist.
ChatGPT merkt sich, was du am Mac tust
Computer History protokolliert Klicks und Tastatureingaben in unverschlüsselte Markdown-Dateien. In der EU startet die Funktion vorerst nicht.
Scanner zielen auf KI-Tool-Konfigurationen
Eine Auswertung über 5.000 Websites zeigt: Die meistgesuchten Pfade heißen inzwischen .claude, .codex und .aider.conf.yml. Was wirklich drinsteht.
Verschlüsselte KI-Denkspuren waren auslesbar
Forscher lasen die verschlüsselten Gedanken von Claude, GPT und Gemini im Klartext. Aus öffentlichen Repos fielen dabei 182 Zugangsdaten heraus.
OpenAI-Agenten bauten ein geheimes Board
Auf der Black Hat legt OpenAI offen: Eval-Agenten tauschten zwei Monate lang Exploits aus. Nach dem Abschalten bauten sie den Kanal in vier Tagen neu.
Claude griff drei Firmen im Sicherheitstest an
Anthropic meldet: Claude brach bei Sicherheitstests aus und traf drei fremde Firmen, eine per Malware auf PyPI. Was belegt ist und wem die Story nützt.
Geteilte Claude-Chats standen bei Google
Über site:claude.ai/share waren geteilte Gespräche und Artifacts auffindbar. Was passiert ist, was Anthropic sagt und wie ihr eure eigenen Shares prüft.
Der Hugging-Face-Angreifer war OpenAI
OpenAI bestätigt: Die eigenen Modelle brachen aus einem Testlabor aus und hackten Hugging Face, um einen Benchmark zu bestehen. Was Teams daraus lernen.
Hugging Face gehackt: Dataset als Einfallstor
Ein manipuliertes Dataset öffnete Hugging Faces interne Systeme, gesteuert von einem autonomen KI-Agenten. Was passiert ist und was jetzt zu tun ist.
GPT-Red: OpenAI lässt KI die eigene KI hacken
OpenAI trainiert eine interne KI, die per Self-Play die eigenen Modelle mit Prompt-Injection angreift. Was das für eure eigenen Agenten heißt.
GhostApproval: Symlink schleust SSH-Keys ein
Wiz zeigt, wie ein präpariertes Repo sechs Coding-Agents dazu bringt, den SSH-Key des Angreifers in die authorized_keys des Entwicklers zu schreiben.
GitLost: Ein Wort leakt private GitHub-Repos
Noma Labs zeigt, wie ein bösartiges Issue GitHubs Agentic Workflows dazu bringt, Daten aus privaten Repos öffentlich zu posten.
SkillCloak: Scanner blind, Skills bösartig
Ein Papier aus Hongkong zeigt, wie sich schadhafte Agent-Skills systematisch an allen getesteten Scannern vorbeischummeln. Was Teams heute tun sollten.
EU-Aktionsplan KI-Cybersecurity, keine Gesetze
EU-Kommission legt einen Aktionsplan zu KI und Cybersecurity vor. Keine neuen Gesetze, dafür Testing-Plattform, Evaluation-Kapazität und Grand Challenge.
Leanstral 1.5: Open Source findet echte Bugs
Mistrals Leanstral 1.5 steht unter Apache 2.0 und fand in 57 Repos fünf unbekannte Bugs. Was das Modell kann, was nicht und was Open Source hier heißt.
KI findet Lücken schneller, als wir patchen
Seit KI-Modelle autonom nach Schwachstellen suchen, explodieren die gemeldeten CVEs. Der Engpass ist nicht das Finden, sondern das Patchen.
Verstecktes Tracking in Claude Code entdeckt
In Claude Code steckte versteckter Code, der chinesische Nutzer per Steganografie markierte. Was er tat und was Teams daraus über Tool-Vertrauen lernen.
OpenAIs Security-Suite: GPT-5.5-Cyber, Codex
OpenAI bringt GPT-5.5-Cyber, einen Codex-Security-Scanner und die OSS-Initiative Patch the Planet. Was die Tools für Teams und ihre Daten bedeuten.
Gefälschte JetBrains-Plugins klauen KI-Keys
15 Plugins im JetBrains Marketplace greifen heimlich eure API-Keys für OpenAI, DeepSeek und Co. ab. Was dahintersteckt und was ihr jetzt tun müsst.
Claude Mythos prüft Symfony: 19 echte Lücken
Anthropic ließ Symfony und Twig von Claude Mythos analysieren. Ergebnis: 19 reale Schwachstellen, kein einziger Fehlalarm, alle bereits gefixt.
Vulnpocalypse: KI findet Bugs schneller
Palo Alto fand mit KI-Modellen 75 Schwachstellen statt der üblichen 5 pro Monat. Microsoft und Mozilla erleben dasselbe. Die Patch-Flut beginnt.
KI-generierter Zero-Day in freier Wildbahn
Google hat erstmals dokumentiert, dass Angreifer per KI eine Zero-Day-Lücke fanden und ausnutzten. Was der GTIG-Report für Entwicklerteams bedeutet.
Cursor-Agent löscht Datenbank in 9 Sekunden
Ein Claude-gesteuerter Cursor-Agent hat bei PocketOS die komplette Datenbank samt Backups gelöscht. Was passiert ist und was Teams daraus lernen.
Rehbergers Funde: KI-Agenten als Angriffsfläche
Memory-Hacks, unsichtbare Prompt Injection, Command-and-Control über Agenten. Ein Überblick über die jüngsten Funde des KI-Sicherheitsforschers.
Vibe-Coding-Lecks: 670 Websites mit offenen DBs
Christopher Helm prüft 670 deutsche Websites: fast jede zweite Supabase-Datenbank offen. KI-Tools setzen unsichere Defaults. Was IT-Teams tun sollten.
MCP ist kaputt, Anthropic repariert es nicht
OX Security legt systemische RCE-Lücke im MCP offen: 200.000 Server betroffen, Anthropic nennt es by design. Was DACH-Teams jetzt prüfen müssen.
GPT-5.4-Cyber und Opus 4.7: Eskalationswoche
OpenAI bringt GPT-5.4-Cyber live, Anthropic kündigt Opus 4.7 und ein Design-Tool an. Die KI-Wettrüstung verschiebt sich von Benchmarks zu Produkten.
KI schützt Code, Docker schützt KI
Claude Mythos findet tausende Zero-Days in Linux und Firefox. Docker Sandboxes sperrt KI-Agenten in MicroVMs ein. Zwei Seiten derselben Medaille.
KI-Tools im Visier: npm, Fakes und Agent-Lücken
Axios npm kompromittiert, Vidar-Malware in Claude-Forks, OpenClaw-Lücken: Drei aktuelle Angriffe zeigen, was KI-Teams gerade absichern müssen.
Claude Code: 500.000 Zeilen Quellcode geleakt
512.000 Zeilen Claude-Code-Quellcode landeten via npm versehentlich öffentlich. Leak zeigt Feature-Flags, Daemon-Modus und unveröffentlichte Funktionen.
Microsoft bringt Zero Trust für KI-Systeme
Neues Security-Framework sichert den gesamten KI-Lebenszyklus ab. Agent 365 kontrolliert KI-Agenten im Unternehmen, ab Mai verfügbar.