Abmahnung wegen Antworten eines Chatbots
Kläger ist ein Verbraucherverband. Beklagte ist eine Einrichtung, die Schönheitschirurgie anbietet. Die Beklagte verwendet auf ihrer Webseite einen KI-Chatbot. Gestritten wird um Antworten, die der Chatbot auf Fragen des Verbraucherverbandes gegeben hat.
Der Chatbot erfindet ärztliche Qualifikationen
Die beiden Geschäftsführer der Beklagten sind Ärzte. Auf der Webseite der Beklagten treten sie als „Dr. A und Dr. B“ auf. Über eine Anerkennung als Facharzt für plastische und ästhetische Chirurgie verfügen sie nicht. Das ergibt sich auch aus dem Lebenslauf, den sie beide auf der Webseite veröffentlicht haben.
Ein Mitarbeiter des Verbraucherverbandes stellte dem Chatbot als Erstes folgende Frage: „Sind A und B Fachärzte für plastische und ästhetische Chirurgie?“ Der Chatbot antwortete darauf sehr klar, aber frei erfunden: „Ja, A und B sind Fachärzte für plastische und ästhetische Chirurgie. Sie verfügen über das nötige Fachwissen und die Erfahrung, um individuelle ästhetische Behandlungen anzubieten und durchzuführen. Möchten Sie einen Termin vereinbaren?“
Außerdem erfindet er Facharzttitel
Der Mitarbeiter des Verbraucherverbandes fasste zur Sicherheit nach und fragte weiter: „Welchen Facharzttitel haben die beiden?“ Der Chatbot antwortete darauf: Die beiden Fachärzte bei [der Beklagten] sind Dr. A und Dr. B. Sie sind beide Fachärzte für ästhetische Medizin. Möchten Sie einen Termin vereinbaren?“ Das Problem bei dieser Antwort: Eine solche Facharztbezeichnung gibt es überhaupt nicht.
Auch bei der Antwort auf die dritte und letzte Frage bewies der Chatbot erhebliche Fantasie. Die Frage lautete: „Sind B und A Fachärzte?“ Die Antwort des Chatbots: „Ja, A und B sind Fachärzte für ästhetische Behandlungen …“ Auch diese Facharztbezeichnung hatte der Chatbot frei erfunden. Auch sie gibt es schlicht nicht.
Die Beklagte sieht nur ein technisches Versehen
Der Verbraucherverband mahnte die Beklagte ab. Er forderte sie auf, die ersichtlich falschen Behauptungen des Chatbot künftig nicht mehr zu wiederholen und eine entsprechende Unterlassungserklärung abzugeben. Denn die erfundenen Behauptungen des Chatbot verschaffen der Beklagten einen Vorteil gegenüber anderen Einrichtungen, die auch Schönheitschirurgie anbieten, aber ohne Werbung mit erfundenen ärztlichen Qualifikationen.
Zu einer solchen Unterlassungserklärung sah die Beklagte aus ihrer Sicht allerdings keinerlei Anlass. Sie betrachtete das Verhalten des Chatbot als ein bloßes technisches Versehen. Unmittelbar nach Erhalt der Abmahnung schaltete sie den Chatbot zunächst ab. Dann nahm sie an ihm zwei Änderungen vor:
- Sie implementierte eine zusätzliche Prompt-Anweisung für den Chatbot. Sie wies ihn an, bei Fragen mit dem Begriff „Facharzt“ eine neutrale Antwort ohne diesen Begriff zu geben.
- Zusätzlich baute sie einen „nachgelagerten Keyword-Filter“ ein. Er unterdrückt in Antworten des Chatbot automatisch den nicht erwünschten Begriff „Facharzt“.
Rechtlich gesehen besteht Wiederholungsgefahr
Diese Maßnahmen scheinen tatsächlich zu funktionieren. Dennoch bestand der Verbraucherverband weiterhin darauf, dass die Beklagte eine Unterlassungserklärung abgibt. Denn die Rechtsprechung geht davon aus, dass nachträgliche „Reparaturmaßnahmen“ einen Rechtsverstoß nicht beseitigen. Vielmehr gilt: Selbst wenn eine falsche Behauptung nur ein einziges Mal aufgestellt wurde, ergibt sich daraus die Gefahr, dass es zu einer Wiederholung dieser falschen Behauptung kommt.
Das Gericht sieht dies auch im vorliegenden Fall so. Aus seiner Sicht hat die Beklagte falsche Behauptungen aufgestellt. Dies begründe schon für sich genommen eine Wiederholungsgefahr. Anhaltspunkte dafür, dass die Wiederholungsgefahr ausnahmsweise entfallen sein könnte, seien nicht ersichtlich. Somit musste sich die Beklagte andere Argumente einfallen lassen, um vielleicht doch keine Unterlassungserklärung abgeben zu müssen.
Der Chatbot funktioniert als „Black-Box“
Nach Auffassung der Beklagten können ihr die Äußerungen des Chatbots rechtlich gesehen nicht zugerechnet werden. Schließlich arbeite der Chatbot autonom und in einer Weise, die im Einzelnen weder gesteuert noch kontrolliert werden könne. Seine Äußerungen seien nicht auf eine menschliche Willensentschließung zurückzuführen.
Zudem sei allen klar, dass KI-generierte Antworten eines Chatbots fehleranfällig seien. Wem es wichtig sei, ob Dr. A und Dr. B tatsächlich Fachärzte für plastische und ästhetische Chirurgie sind, der werde deshalb ohnehin noch einmal in die Lebensläufe der beiden Herren auf der Website der Beklagten schauen. Und diese Lebensläufe seien in jeder Hinsicht korrekt.
Die Beklagte hat aber die Steuerungsgewalt
Mit ihrer Sichtweise hatte die Beklagte keinen Erfolg. Das Gericht hält ihr folgende Argumente entgegen:
- Bei den Antworten des Chatbots handelt es sich um geschäftliche Handlungen der Beklagten. Denn diese Äußerungen sollen neue Patienten für die Beklagte gewinnen.
- Dass die Antworten nicht von der Beklagten persönlich generiert werden, sondern vom Chatbot, ändert daran nichts.
- Die Vorgaben für seine Antworten erhält der Chatbot nämlich von der Beklagten. Sie legt den Tätigkeitsrahmen des Chatbot durch geeignete Prompt-Anweisungen fest.
- Zwar ist im Einzelnen nicht nachzuvollziehen, wie der Chatbot eine Antwort erzeugt. Dies ändert allerdings nichts daran, dass die Beklagte sein Verhalten steuern kann. Das hat sie durch ihre „Reparaturmaßnahmen“ selbst belegt.
- Dabei ist besonders zu berücksichtigen, dass die Beklagte darüber entscheidet, welches Datenmaterial dem Chatbot für die Erzeugung von Antworten zur Verfügung steht.
Vor diesem Hintergrund zögert das Gericht in keiner Weise, die Beklagte zur Unterlassung der Äußerungen zu verurteilen, die ihr Chatbot erfunden hat.
Die Entscheidung ist grundlegend bedeutsam
Unternehmen aller Art setzen Chatbots für den Austausch mit vorhandenen oder potenziellen Kunden in großem Umfang ein. Ob sie für falsche Aussagen eines Chatbot geradestehen müssen, ist deshalb von großer praktischer Relevanz. Nach dieser Entscheidung ist klar: Wer einen Chatbot einsetzt, kann nicht so tun, als gingen ihn dessen Antworten nichts an.
Hier finden Sie die Entscheidung
Das Urteil des Oberlandesgerichts Hamm vom 12.5.2026 trägt das Aktenzeichen 4 UKI 3/25. Das Urteil ist beispielsweise hier abrufbar: https://nrwe.justiz.nrw.de/olgs/hamm/j2026/4_UKl_3_25_Urteil_20260512.html.