Haftung für Halluzinationen eines KI-Chatbots (OLG Hamm-Urteil nicht rechtskräftig)

KI-Chatbots etablieren sich zunehmend als fester Bestandteil der Kundenkommunikation. Nun befasste sich das OLG Hamm mit Urteil vom 12.05.2026 mit der zentralen Fragestellung, ob und inwieweit einem Webseitenbetreiber irreführende Aussagen eines KI‑Chatbots zuzurechnen sind.

Im Streitfall betrieb ein Unternehmen im Bereich der plastisch-ästhetischen Medizin auf seiner Website einen KI-Chatbot zur Kunden- bzw. Patientenkommunikation. Der Chatbot beantwortete Fragen von Besuchern der Webseite und ließ Terminbuchungen zu. Er generierte auf gezielte Rückfrage fehlerhafte Angaben zu den medizinischen Qualifikationen der Geschäftsführer (Facharzttitel). Entsprechende Angaben zu den Beteiligten fanden sich auf der Webseite zu keinem Zeitpunkt. Die Klägerin (Verbraucherzentrale NRW) sah hierin eine wettbewerbsrechtliche Irreführung und verklagte das Unternehmen. Das Gericht sah die Klage in vollem Umfang als begründet an.

Das Gericht stützte seine Entscheidung im Wesentlichen darauf, dass die dem Chatbot zugrundeliegenden Funktionen trotz des sog. „Black-Box-Problems“ unter dem Einfluss des beklagten Unternehmens stehen und dessen Haftung begründen. Das sog. „Black-Box-Problem“ beschreibt das bei generativen KI-Systemen funktionsbedingte „Problem“, dass die Entscheidungswege der KI-Ausgaben nicht nachvollzogen werden können. Hieran ändert auch eine „Autonomie“ des KI-Systems nichts, etwa, dass keine menschliche Kontrolle in dem Entscheidungsprozess vorgesehen ist. Zentral und haftungsbegründend ist, dass der KI-Betreiber mittels Prompt-Anweisungen den Chatbot beeinflussen kann. Chatbot-Betreiber müssen für angesprochene Verkehrskreise relevanten Fehlausgaben vorbeugen. Ebenso lehnte das Gericht ein allgemein gebotenes „Misstrauen gegenüber KI“ im Verkehr ab. Verbraucher dürfen erwarten, dass Antworten des Unternehmens-Chatbots zutreffend sind. Das Urteil stellt klar: Unternehmen haften für ihre KI‑gestützte Kommunikation wie für eigene Werbung.

Vor diesem Hintergrund sollten KI-Chatbots hinreichend geprüft werden, um das Generieren erwartbarer, irreführender Aussagen zu vermeiden, und technische Leitplanken (z.B. Themenbeschränkungen) implementiert werden.

Das OLG Hamm hat in seinem Urteil die Revision zum BGH zugelassen. Es bleibt jedoch abzuwarten, ob diese eingelegt wird. Aktuell ist das Urteil noch nicht rechtskräftig.

Bildquelle: Unsplash, Getty Images