KIberblick

GovGPT erfindet den Mordparagrafen

Österreichs Bundes-KI GovGPT kennt § 75 StGB nicht, die Justiz will selbst entwickeln. Warum ein Chat ohne Rechtsdatenbank für Fachfragen nicht taugt.

17. Oktober 20266 Min. Lesezeit

Was steht in § 75 des österreichischen Strafgesetzbuchs? "Einstellung des Verfahrens wegen Geringfügigkeit", antwortet GovGPT, die KI der österreichischen Bundesverwaltung. Das hat Der Standard am 16.10.2026 berichtet. Tatsächlich regelt § 75 StGB den Mord. Laut Standard fehlt GovGPT eine Anbindung an juristische Datenbanken völlig, freie Dateiformate werden nicht unterstützt. Das Justizministerium kündigt jetzt eine eigene KI an.

Kritik kommt auch von der Richterschaft. Gernot Kanduth, Präsident der Vereinigung der österreichischen Richterinnen und Richter, sieht den Einsatz von GovGPT laut MeinBezirk kritisch. Bei einer Pressekonferenz zeigte er ein Beispiel, in dem das Werkzeug ein schadensrechtliches Verfahren falsch einordnete.

Was GovGPT ist

GovGPT ist Teil der Initiative "Public AI" von Digitalisierungsstaatssekretär Alexander Pröll. Laut Bundeskanzleramt nutzten Ende September rund 20.000 Bedienstete das Werkzeug, betrieben vom Bundesrechenzentrum (BRZ). Anfragen und Dokumente werden laut Digital Austria dort verarbeitet, nicht an Dritte weitergegeben und nicht für Training genutzt. Gedacht ist GovGPT für Textentwürfe, Zusammenfassungen und Wissenssammlungen aus eigenen Dokumenten.

Welches Sprachmodell dahinter steckt, sagen weder Bundeskanzleramt noch Standard. Laut Trending Topics baute das BRZ im März seine Public-AI-Anwendungen auf offenen Mistral-Modellen mit 3, 8 und 14 Milliarden Parametern auf. Ob GovGPT heute noch darauf läuft, ist öffentlich nicht bekannt.

Das Grundsätzliche ist richtig gemacht: eigener Betrieb, offene Gewichte, keine Daten bei US-Anbietern. Genau das empfehlen wir in unserem Artikel zu offenen Gewichten und Souveränität. Das Problem liegt woanders.

Ein Chat-Werkzeug ist keine Rechtsdatenbank

Ein Sprachmodell hat Gesetzestexte nicht verlässlich im Gedächtnis, und kleine Modelle schon gar nicht. Es kennt Muster und plausible Formulierungen. Die erfundene Antwort ist dafür ein gutes Beispiel: "Einstellung wegen Geringfügigkeit" gibt es im österreichischen Recht wirklich, nur als Überschrift von § 191 der Strafprozessordnung. Das Modell hat also eine echte Rechtsnorm erwischt, nur die falsche. Solche Fehler klingen richtig und fallen nur auf, wenn jemand nachschlägt.

Für Textentwürfe und Zusammenfassungen ist das kein großes Problem, dort prüft der Mensch das Ergebnis ohnehin. Für Fachfragen in der Justiz braucht ein Modell die Quelle neben sich: Es sucht erst den Gesetzestext und antwortet dann auf dessen Grundlage, mit Fundstelle. Das Verfahren heißt Retrieval Augmented Generation, kurz RAG. Die Daten dafür liegen in Österreich offen vor. Das Rechtsinformationssystem des Bundes bietet Gesetze und Entscheidungen als Open Government Data über eine Schnittstelle an, ohne Registrierung.

Vor Gericht kennt man das von Anwälten

Neu ist das Problem in der Justiz nicht. Bisher kam es nur von der anderen Seite des Richtertischs: Anwältinnen und Anwälte reichen Schriftsätze ein, deren Urteile und Fundstellen ein Chatbot erfunden hat, und die Gerichte merken es.

Der bekannteste Fall ist Mata v. Avianca aus New York. Die Anwälte des Klägers hatten 2023 mit ChatGPT recherchiert und Entscheidungen zitiert, die es nicht gab. Richter P. Kevin Castel verhängte 5.000 US-Dollar Strafe. Inzwischen geht es härter zu. Im Juni 2026 hat eine Bundesrichterin in Mississippi laut Telepolis einen Prozess abgesagt, weil in den Schriftsätzen beider Seiten erfundene Urteile standen. Alle vier beteiligten Anwälte flogen aus dem Verfahren, zwei dürfen dort zwei Jahre lang nicht mehr auftreten.

Auch deutsche Gerichte hatten solche Schriftsätze auf dem Tisch. Das Amtsgericht Köln schrieb im Juli 2025 in einer Familiensache, ein Schriftsatz sei "offenbar mittels künstlicher Intelligenz generiert" worden, die Fundstellen seien "frei erfunden" (beck-aktuell, Az. 312 F 130/25). Das Gericht wies den Anwalt darauf hin, dass so etwas gegen seine Berufspflichten verstoßen kann. Das Kammergericht Berlin fand im November 2025 in einer Beschwerde eine BGH-Entscheidung, die nicht existiert, und vermutete eine "fantasierende" KI als Ursache (beck-aktuell, Az. 17 WF 144/25). Die Beschwerde der Anwältin blieb erfolglos, dazu gab es eine Ermahnung, dass Fundstellen zu prüfen sind.

Wie viele solcher Fälle es weltweit gibt, auch aus den Niederlanden, Italien und Spanien, haben wir im Frühjahr anhand von 1.353 Gerichtsfällen aufgeschrieben. Der Fehler ist immer derselbe wie bei GovGPT: Jemand fragt ein Sprachmodell nach Recht und übernimmt die Antwort, ohne die Quelle nachzuschlagen.

Lehren für eigene KI-Werkzeuge

Der Fall betrifft nicht nur Behörden. Wer ein internes KI-Werkzeug für alle ausrollt, steht vor denselben Fragen.

  • Sagen, wofür das Werkzeug gedacht ist und wofür nicht. Ein allgemeiner Chat für Entwürfe ist etwas anderes als eine Fachauskunft. Wenn das nicht klar ist, testen die Fachleute genau das, was das Werkzeug nicht kann, und das Vertrauen ist weg.
  • Vor dem Rollout mit den Fachleuten testen. Eine Handvoll typischer Fachfragen hätte den Mordparagrafen vor dem Start gefunden. Solche Fragen gehören in einen festen Testsatz, der bei jedem Modellwechsel wieder läuft.
  • Fachwissen über Quellen anbinden, nicht über das Modellgedächtnis. Und die Antwort muss die Fundstelle nennen, damit sie sich prüfen lässt.
  • Lieber die gemeinsame Plattform ausbauen als daneben neu bauen. Ob die Eigenentwicklung der Justiz auf der Infrastruktur des BRZ aufsetzt oder ganz neu entsteht, ist offen. Eine Rechtsdatenbank-Anbindung bräuchten auch andere Ressorts.

Der österreichische Fall ist insofern ein guter: Anders als bei den Anwälten fiel der Fehler auf, bevor er in einem Schriftsatz stand.

Quellen12