KIberblick

KIberschutz

Freie KI-Kapazität für einen guten Zweck: Wir analysieren Open-Source-Projekte auf Sicherheitslücken, verifizieren jeden Fund gegen False Positives und melden ihn verantwortungsvoll an die Maintainer, wenn möglich mit fertigem Patch. Kein Versand ohne menschliche Freigabe.

Was & warum

KIberblick verfällt sonst ungenutzte KI-Kapazität nicht ungenutzt: Wir setzen sie ein, um Open-Source-Projekten aus dem KI-Umfeld beim Schließen von Sicherheitslücken zu helfen. Der Prozess: Ein Repo wird gescannt, jeder Fund wird gegen False Positives gegengeprüft, und die Meldung geht danach über den passenden Weg raus: exploitierbare Lücken immer privat, Hardening-Hinweise auch öffentlich. Jede Meldung wird vorher von einem Menschen gegengelesen.

Eine Ausnahme: Reagiert ein Projekt trotz angemessener Frist nicht, veröffentlichen wir eine Lücke ausnahmsweise auch ohne Fix. Die Lücke existiert unabhängig davon, ob wir sie melden, und wer aktiv nach solchen Lücken sucht, hat sie oft längst gefunden. Irgendwann nützt Stillschweigen nur noch dem wissenden Angreifer und dem nachlässigen Projekt.

Warum wir den Verifikationsschritt so ernst nehmen: Sandra Joyce, die Leiterin von Google Threat Intelligence, beschreibt im Gespräch mit heise die Lage so, dass dank KI mehr Zero-Days gefunden werden als je zuvor. Das ist beidseitig: Angreifer skalieren, Verteidiger skalieren mit. Die Nebenwirkung benennt sie aber ebenfalls, und die trifft genau die Projekte, denen wir helfen wollen: Bug-Bounty-Programme werden mit Meldungen geflutet, und die Rückstände beim Patchen wachsen. Eine automatisch erzeugte Meldung kostet fast nichts, das Prüfen einer falschen Meldung kostet einen Maintainer einen Abend.

Deshalb ist bei uns nicht die Anzahl der Funde die Kennzahl, sondern der Anteil, der eine Widerlegung übersteht. Was wir melden, hat einen belegten Angriffspfad, und wo es geht, liegt ein Patch bei. Was wir nicht widerlegen konnten, aber auch nicht sauber belegen, geht nicht raus.

Was wir Teams raten

  • Private Vulnerability Reporting bzw. private Security Advisories in den Repo-Einstellungen aktivieren, damit Meldungen nicht öffentlich landen, bevor ein Fix da ist.
  • Eine SECURITY.md anlegen und aktuell halten, mit einem Kontaktweg, der wirklich überwacht wird.
  • KI-Unterstützung gezielt für sicheren Code nutzen: Reviews auf typische Schwachstellenklassen prompten, statt sich nur auf das Bauchgefühl zu verlassen.
  • Den eigenen Code einmal aus Angreiferperspektive lesen lassen, statt auf den nächsten Scanner-Report zu warten. Capital One hat dafür im Juli 2026 VulnHunter unter Apache 2.0 veröffentlicht: drei Claude-Code-Skills, die bei erreichbaren Einstiegspunkten anfangen und vorwärts denken, statt verdächtige Muster zu zählen. Jeder Fund muss danach einen Versuch überstehen, ihn zu widerlegen, und was übrig bleibt, kommt mit Exploit-Pfad und Fixvorschlag. Das ist ungefähr die Reihenfolge, die auch bei uns die Fehlalarme aussortiert. Zwei Dinge vorher klären: Es braucht ein Opus-Modell in Claude Code auf eigene Rechnung, und Schwachstellensuche gehört bei Anthropic ins Cyber Verification Program, sonst kann die Nutzung blockiert werden. Und nur auf Code loslassen, für den man zuständig ist.

Status unserer Anfragen