Rechtssicherer Patientenservice durch kontrollierte KI-Systeme. VITAS automatisiert die Patientenkommunikation verlässlich, datenschutzkonform und präzise.
Künstliche Intelligenz entlastet den Praxisalltag spürbar, doch das aktuelle Urteil des OLG Hamm zeigt klare technologische Grenzen auf: Betreiber haften vollumfänglich für unkontrollierte Falschaussagen generativer Systeme. Dieser Artikel erklärt, worauf Praxen und Kliniken bei der Auswahl ihrer digitalen Helfer achten müssen und wie die hybride, regelbasierte Systemarchitektur von VITAS verlässlichen Patientenservice garantiert.
Ein aktuelles Urteil des Oberlandesgerichts Hamm (OLG Hamm, Urteil vom 12.05.2026) sorgt in der Digital Health-Branche für Aufsehen: Wer auf seiner Webseite einen KI-basierten Chatbot betreibt, haftet vollumfänglich für dessen Aussagen. Selbst wenn das System im Hintergrund mit korrekten Daten gefüttert wurde, sind KI-Falschaussagen rechtlich dem Betreiber als unlautere Irreführung zuzurechnen.
Bei dem Verfahren vor dem OLG Hamm erfand der generative Text-Chatbot einer bekannten Schönheitsklinik medizinische Qualifikationen und schrieb den Geschäftsführern nicht existierende Titel wie „Fachärzte für ästhetische Medizin“ zu. Die Verbraucherzentrale klagte mit Erfolg. Der Fall verdeutlicht, dass frei generierende KI-Systeme Inhalte erzeugen können, die nicht nur ungenau, sondern im Einzelfall vollständig erfunden sein können. Insbesondere dann, wenn sie ohne inhaltliche Kontrolle in der Patientenkommunikation eingesetzt werden.
Daraus ergibt sich für Mediziner, Kliniken und MVZs eine klare Konsequenz: Der unkontrollierte Einsatz von rein generativer Künstlicher Intelligenz in der Patientenkommunikation birgt immense rechtliche Gefahren. Wer vermeiden möchte, dass die KI falsche Informationen ausgibt, muss zwingend auf kontrollierte Systeme setzen.
Viele moderne Text-Chatbots basieren auf reinen Large Language Models (LLMs), die darauf trainiert sind, menschliche Sprache flüssig zu imitieren. Das Problem dabei: Sie sind nicht auf Faktenfestigkeit programmiert. Neigt die KI zu Falschinformationen, sogenannten „Halluzinationen“, erfindet sie im Zweifel plausibel klingende Antworten, wie im Fall vor dem OLG Hamm geschehen.
Der Grund für diese Fehler liegt in der technischen Funktionsweise der Systeme. Ob solche Fehler auftreten, hängt stark von der Systemarchitektur ab, da diese bestimmt, wie frei oder kontrolliert eine KI Inhalte erzeugen darf und ob sie auf geprüfte Daten zurückgreift. Neben klassischen LLMs gibt es auch RAG-Systeme mit angebundener Datenbasis sowie regelbasierte Ansätze, die Antworten strikt begrenzen.
Diese Unterschiede sind besonders relevant, wenn KI in sensiblen Anwendungsbereichen wie im Gesundheitswesen eingesetzt wird. Unklare oder falsche KI-Aussagen können dazu führen, dass Symptome falsch eingeschätzt, medizinische Dringlichkeiten unterschätzt oder Behandlungsentscheidungen verzögert werden. Dadurch drohen oftmals Haftungsfälle oder Abmahnungen durch Wettbewerbshüter. Wenn Patient:innen digitale Kanäle nutzen, um beispielsweise Symptome abzufragen, muss jede Information zu 100 % valide und kontrolliert sein.
Die Lösung für mehr Rechtssicherheit im Praxisalltag ist ein hybrides System. Hierbei handelt es sich um eine sichere Kombination aus festen Regeln und künstlicher Intelligenz. Bei VITAS haben wir diese regulatorischen und ethischen Herausforderungen von Anfang an konsequent mitgedacht. Unser KI-Telefon-Chatbot unterscheidet sich beispielsweise grundlegend von klassischen, rein generativen Systemen:
Rechtssicherheit bedeutet nicht, auf die Vorteile moderner Technologie zu verzichten. Ein kontrolliert aufgebauter KI-Chatbot kann die Patientenkommunikation deutlich entlasten, während das Haftungsrisiko durch klar definierte, geführte Logiken stark reduziert wird.
Das Urteil aus Hamm bedeutet keineswegs das Ende der Automatisierung im Gesundheitswesen. Im Gegenteil: Angesichts des akuten Fachkräftemangels und permanent überlasteter Leitungen ist der Einsatz digitaler Entlastungsinstrumente für moderne Praxen unverzichtbar. Der Beschluss des Oberlandesgerichts stoppt die Entwicklung nicht, sondern zeigt vielmehr auf, wie moderne Systeme gebaut sein müssen. Um das Risiko für falsche KI-Antworten von vornherein zu eliminieren, liegt die Lösung in einer technologischen und datenschutzkonformen Architektur, egal über welchen Kanal.
Mit diesem Ansatz lässt sich die fortschreitende Automatisierung der Patientenkanäle rechtssicher fortführen, sowohl per Text auf der Webseite als auch per Sprache am Telefon. Die Patientenkommunikation wird auf allen Kanälen modernisiert und Teams gewinnen wertvolle Zeit zurück, während Sie sich auf eine technologisch kontrollierte Umgebung verlassen, die das Haftungsrisiko für Ihre Praxis konsequent ausschließt.
Wer die Digitalisierung seiner Arztpraxis vorantreiben möchte, darf bei der Rechtssicherheit keine Kompromisse eingehen. Das OLG-Urteil schärft das Bewusstsein dafür, dass Künstliche Intelligenz ein Werkzeug sein muss, das den Menschen unterstützt und entlastet, anstatt neue rechtliche Baustellen zu eröffnen. Mit datenschutzkonformen Lösungen sichern Sie sich lückenlose Erreichbarkeit, maximale MFA-Entlastung und eine KI, die nicht halluziniert.
Möchten Sie erleben, wie ein verlässlicher Sprachassistent Ihre Praxis ohne das Risiko von KI-Falschantworten im Alltag unterstützt? Testen Sie den VITAS KI-Telefonassistenten jetzt 30 Tage kostenlos.
