OLG Hamm: Wer den Chatbot betreibt, haftet
Das OLG Hamm rechnet einer Arztpraxis die Falschangaben ihres KI-Chatbots zu. Wer LLMs im regulierten Umfeld einsetzt, muss mit Halluzinationen rechnen.
Das Oberlandesgericht Hamm hat am 12. Mai entschieden: Ein Anbieter ästhetischer Behandlungen haftet für die Falschangaben seines KI-Chatbots, auch wenn er ihn nur mit korrekten Datensätzen gefüttert hat. Der Chatbot ist kein "Dritter" im Sinne des Gesetzes, sondern Werkzeug des Betreibers. Aktenzeichen: 4 UKl 3/25.
Was passiert ist
Auf der Webseite eines Anbieters ästhetischer Eingriffe lief ein Chatbot, der Termine buchen und Fragen in Echtzeit beantworten konnte. Auf konkrete Nachfragen erklärte er, die beiden Ärzte hinter dem Unternehmen seien "Fachärzte für plastische und ästhetische Chirurgie", "Fachärzte für ästhetische Medizin" und "Fachärzte für ästhetische Behandlungen".
Das Problem: Diese Facharzttitel existieren nicht. Es gibt den "Facharzt für Plastische und Ästhetische Chirurgie" als anerkannte Bezeichnung, aber die anderen beiden sind frei erfunden. Und die Geschäftsführer trugen keinen davon.
Ein Kläger mahnte ab und forderte eine strafbewehrte Unterlassungserklärung. Der Chatbot wurde daraufhin deaktiviert, die Erklärung aber nicht unterschrieben. Es kam zur Klage.
Die Argumentation des Gerichts
Der 4. Zivilsenat stuft die Antworten als irreführende geschäftliche Handlung nach § 5 Abs. 1, Abs. 2 Nr. 3 UWG ein. Der entscheidende Punkt steht im letzten Absatz der Pressemitteilung:
"Selbst sollte die Beklagte den Chatbot ausschließlich mit korrekten Datensätzen programmieren haben lassen, trage sie für die unstreitigen Falschangaben betreffend die (nicht existenten) Facharzttitel ihrer Geschäftsführer die Verantwortung. Der Chatbot sei auch kein 'Dritter' im Sinne des Gesetzes."
Damit fällt eine Verteidigungslinie weg, die viele Betreiber bisher reflexhaft ziehen: "Das war nicht ich, das war die KI." Das Gericht macht klar: Wer den Bot auf die eigene Webseite stellt, übernimmt seine Aussagen. Die Konstruktion einer Verkehrssicherungspflicht (die einem Erleichterungen verschaffen könnte) ist gesperrt, weil das Modell juristisch Teil des Unternehmens ist, nicht extern.
Da die rechtlichen Fragen neu sind, hat der Senat die Revision zum BGH zugelassen. Das letzte Wort ist also noch nicht gesprochen, aber die Richtung ist gesetzt.
Warum das ein typisches LLM-Problem ist
Der Punkt, der für Teams interessant ist, die selbst Chatbots bauen oder einkaufen: Die Beklagte hat laut eigener Aussage korrekte Datensätze eingespeist. Trotzdem hat der Bot frei erfundene Facharzttitel ausgegeben.
Genau das ist Halluzination im Lehrbuchsinn. Ein allgemeines Sprachmodell ergänzt Muster, die statistisch plausibel sind. "Ästhetische Chirurgie" gibt es als Facharztrichtung, "ästhetische Medizin" und "ästhetische Behandlungen" klingen in der Trainingswelt des Modells nach passender Variation, also generiert es sie. Ob die jeweilige Bezeichnung in der Weiterbildungsordnung steht, weiß das Modell nicht und kann es auch nicht wissen.
Im regulierten Umfeld (Medizin, Recht, Finanzen) reicht das, um in Haftung zu geraten. Hier ist es noch glimpflich abgelaufen: Es ging um Facharzttitel, nicht um medizinischen Rat. Hätte der Bot Dosierungsempfehlungen ausgegeben oder Symptome eingeordnet, wäre der Schaden in einer ganz anderen Liga.
Guardrails reichen nicht, sind aber Pflicht
Die naheliegende Antwort lautet: System-Prompt schreiben, Knowledge Base anbinden, Validierung dazwischenhängen. All das hilft, aber keines davon ist ein lückenloser Schutz.
Das hat mehrere Gründe. System-Prompts können durch geschickte Nutzerfragen umgangen werden. Retrieval-Augmented Generation (RAG) liefert nur den Kontext, das Modell formuliert die Antwort trotzdem frei. Strukturierte Validierung greift nur dort, wo man Regeln definiert hat, also für bekannte Fehlerklassen.
Wer solche Systeme baut oder verantwortet, sollte am Anfang die Frage stellen, was im Worst Case passiert, wenn der Bot halluziniert. Bei Terminbuchung in einer Arztpraxis ist die Antwort eine andere als bei einem FAQ-Bot für eine Software-Doku. Sachangaben wie Facharzttitel, Preise oder Öffnungszeiten gehören nicht in die Hände eines Modells, das sie frei generiert, sondern an die Oberfläche aus einer kontrollierten Quelle.
Dazu kommen Logs, Stichprobenprüfungen und Disclaimer. Wer nach einem Vorfall nichts vorzeigen kann, hat zusätzlich zum Schaden ein Compliance-Problem. Und ein klarer Eskalationspfad zu echten Menschen ist Pflicht. Bei medizinischen oder rechtlichen Fragen muss der Bot konsequent abgeben. "Ich bin nur ein Chatbot, bitte fragen Sie das Praxisteam" ist keine Schwäche, sondern Haftungsschutz.
Was sich konkret ändert
Das Urteil ist noch nicht rechtskräftig, die Revision zum BGH läuft. Aber die Linie ist klar genug, um sie ernst zu nehmen. Wer eigene Bots betreibt, sollte gezielt prüfen, was sie über Qualifikationen, Zulassungen, Preise oder gesetzliche Pflichten ausgeben. Wer Bot-Lösungen einkauft, sollte vor dem Vertrag die Verantwortungskette klären. In aller Regel haftet der Betreiber, nicht der Anbieter.
Dazu kommt der AI Act: Solche Anwendungen fallen meist unter die Transparenzpflichten, und spätestens Anfang Dezember 2026 greift die Kennzeichnungspflicht für KI-generierte Inhalte. UWG, AI Act und Branchenrecht zusammen heben die Latte für Chatbots in regulierten Branchen weiter.
Der Satz "KI ist gut, aber Vorsicht ist besser" gilt nicht nur intern. Er gilt erst recht dort, wo das Modell mit Kundinnen und Kunden spricht und der Betreiber die Konsequenzen trägt.