KI Chatbots im Kundenkontakt eizusetzen sind praktisch. Aber was passiert, wenn die KI Dinge behauptet, die schlichtweg nicht stimmen? Aktuelle Gerichtsurteile geben eine klare Antwort. Das Unternehmen, welches die KI einsetzt, haftet für deren Aussagen.

KI  generierte Ergebnisse sind oft beeindruckend. Aber KI halluziniert. Das bedeutet: Sie erfindet Informationen und verbreitet sie mit überzeugender Selbstsicherheit. Es wird nicht gekennzeichnet, was sicher wahr ist und wo nur vage Informationen vorliegen. Das ist unbefriedigend. Ungefilterte KI Aussagen ohne eine Überprüfung durch einen Menschen sind per se immer gefährlich.

So kommt es zu falschen Produktversprechen, nicht existierenden Qualifikationen von Ärzten, frei erfundene Rabattaktionen. Alles schon passiert, alles schon vor Gericht gelandet.

Denn die Rechtslage ist klar: Ein KI Chatbot ist kein eigenständiger Akteur. Er ist ein Werkzeug des einsetzenden Unternehmens. Was KI sagt, sagt das Unternehmen. Da besteht kein Argumentationsspielraum.

KI Fehler: Was sagen die Gerichte

Im folgenden werden einige konkrete Urteile aus der Unternehmenspraxis aufgeführt.

OLG Hamm, Mai 2026 (Deutschland)

Ein Unternehmen setzte einen KI-Chatbot auf seiner Website ein. Der Bot erfand ärztliche Fantasiequalifikationen, die in Deutschland nicht existieren und kommunizierte diese gegenüber Kunden, um einen Werbeeffekt zu erzeugen. Die Verteidigung der beiden Ärzte: Man habe dem System ausschließlich korrekte Daten eingespielt, die Fehler seien allein der KI zuzuschreiben.

Das Oberlandesgericht Hamm ließ das nicht gelten. Die KI sei kein „Dritter“, für den man nur eine Aufsichtspflicht hätte. Es gebe schlicht volle Verantwortung. (Az. 4 UKl 3/25)

LG Hamburg, Ende 2025 (Deutschland)

Das Landgericht Hamburg entschied in einem ähnlichen Fall: Betreiber eines Chatbots haften für unwahre Aussagen ihrer KI bzgl. Vertragskonditionen bzw. Leistungen, unabhängig davon, ob die Falschaussage von einem Menschen geschrieben oder von einer KI „halluziniert“ wurde. (Az. 324 O 461/25)

LG Kiel, Februar 2024 (Deutschland)

Ein KI-gestützter Dienst hatte über ein Unternehmen unrichtige Tatsachenbehauptungen generiert und verbreitet. Das LG Kiel ordnete schon 2024  den Betreiber als unmittelbaren – nicht nur mittelbaren – Störer ein, weil die fehlerhafte Information ein direktes Ergebnis seines eigenen Systems war und er deren Richtigkeit hätte sicherstellen müssen. (Az. 6 O 151/23)

Air Canada, 2024 (Kanada)

Auch außerhalb Europas ist das Thema angekommen: Ein kanadisches Gericht verurteilte die Fluglinie Air Canada zur Schadensersatzzahlung. Der Chatbot hatte einem trauernden Fluggast eine rückwirkende Trauerfall-Tarifermäßigung in Aussicht gestellt, die nach den realen Tarifbedingungen so nicht existierte. Das Civil Resolution Tribunal entschied, dass Air Canada für sämtliche Informationen auf seiner Website verantwortlich ist – egal ob sie von einer statischen Seite oder einem Chatbot stammen – und sprach dem Kunden Schadensersatz zu.

Der EU AI Act verschärft den Druck

Ab dem 2. August 2026 gilt der EU AI Act in vollem Umfang – und er betrifft jedes Unternehmen in Europa, das KI-Systeme einsetzt. Die wichtigsten Pflichten:

• Transparenz: Nutzer müssen klar erkennen können, dass sie mit einer KI kommunizieren. (Art. 50 KI-VO)
• Kontrolle: Unternehmen müssen sicherstellen, dass ihre KI-Systeme korrekte und überprüfbare Informationen ausgeben.
• Dokumentation: Betreiber hochriskanter KI-Systeme müssen nachweisen können, dass sie ihrer Sorgfaltspflicht nachgekommen sind.

Wer diese Pflichten verletzt, riskiert Bußgelder von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes.

Aber es geht nicht nur um Geld. Was ist mit dem Image des Unternehmens in der Öffentlichkeit? Hier können irreparable Schäden entstehen. Das strategische Risikomanagement im Unternehmen sollte dringend den KI Einsatz mit abbilden.

Was das für Unternehmen konkret bedeutet

Die Botschaft aus den Gerichtsurteilen ist klar:

• „Wir haben der KI korrekte Daten gegeben“ ist keine Entschuldigung.
• „Die KI hat das selbst entschieden“ ist kein hinreichendes Schutzargument.
• Chatbot-Ausgaben müssen regelmäßig und systematisch überprüft werden.
• Besonders sensible Bereiche – Produktversprechen, Qualifikationen, Preise, rechtliche Hinweise – brauchen besondere Aufmerksamkeit.
• Transparenz gegenüber dem Nutzer ist Pflicht, nicht nur die Kür.

Wie man das Risiko minimiert

Die gute Nachricht: Unternehmen sind diesem Risiko nicht schutzlos ausgeliefert. Mit der richtigen technischen und organisatorischen Grundlage lässt es sich erheblich reduzieren.

Geschlossene Datenbasis statt offenes Internet. Der entscheidende Hebel liegt in der Systemarchitektur. Ein KI-Chatbot, der ausschließlich auf eine eigene, kuratierte Wissensbasis zugreift – und keinen Zugang zum offenen Internet hat – kann grundsätzlich nur das ausgeben, was das Unternehmen ihm bewusst und geprüft zur Verfügung gestellt hat. Keine unkontrollierten Quellen, keine Informationen aus dritten Webseiten, keine spontanen Erfindungen aus dem Datenrauschen des Webs. Was hineingeht, bestimmt das Unternehmen. Was herauskommt, ist entsprechend kontrollierbar.

Eigene KI-Infrastruktur als strategische Entscheidung. Das setzt voraus, dass Unternehmen KI nicht als günstigen Schnelldienst betrachten, sondern als das, was sie rechtlich sind: ein eigenes Kommunikationsinstrument, für das das Unternehmen die volle Verantwortung übernehmen muss. Wer auf beliebige KI-Dienste zurückgreift, die auf das offene Internet zugreifen oder auf intransparenten Datenquellen trainiert wurden, überlässt die Kontrolle über seine Unternehmenskommunikation einem System, das er nicht vollständig überblicken kann. Der Aufbau einer eigenen KI-Infrastruktur – mit definierten Modellen, klar strukturierten Datenquellen und nachvollziehbaren Prozessen – ist aufwändig, aber der einzige Weg zu echter Souveränität über das, was das KI-System sagt.

Regelmäßige Qualitätssicherung als Pflicht. Selbst mit einer geschlossenen Datenbasis bleibt die laufende Kontrolle unverzichtbar. Inhalte veralten, Kontexte ändern sich, Systeme verhalten sich in Randfällen anders als erwartet. Unternehmen sollten deshalb klare Prozesse etablieren: regelmäßige Audits der Chatbot-Ausgaben, definierte Verantwortlichkeiten für die Datenpflege und – wo es um besonders sensible Themen geht – zusätzliche menschliche Prüfinstanzen („human in the loop“).

Kurz gesagt: Wer die Haftung trägt, muss auch die Kontrolle haben. Beides lässt sich nicht sinnvoll trennen.

Technik allein reicht nicht – der Faktor Mensch

So wichtig auch die richtige Architektur ist: Die meisten Haftungsfälle entstehen nicht am KI-Server, sondern am Schreibtisch. Mitarbeitende formulieren Prompts, pflegen Wissensdatenbanken, kommunizieren KI-genrierte Ergebniss an Kunden und entscheiden im Alltag, wann sie einer Maschine vertrauen – und wann nicht. Genau hier entsteht Risiko, wenn das nötige Wissen fehlt.

Wer KI verantwortungsvoll einsetzen will, muss sein Team befähigen, drei Dinge sicher zu beherrschen:

• Halluzinationen erkennen: Verstehen, warum KI-Systeme überzeugend falsche Aussagen erzeugen – und wie man kritische Ausgaben identifiziert, bevor sie nach außen gelangen.
• Rechtliche Grundlagen kennen: Ein Bewusstsein für Haftung, EU AI Act, Transparenzpflichten und Datenschutz, damit niemand unwissentlich Risiken schafft.
• Sicher prüfen und freigeben: Klare interne Routinen für die Kontrolle und Freigabe von KI-generierten Inhalten – insbesondere bei Produktversprechen, Preisen, Qualifikationen und rechtlichen Hinweisen.

Schulungen sind damit kein „Nice-to-have“, sondern Teil der Sorgfaltspflicht des Unternehmens. Der EU AI Act schreibt nachweisbaren verantwortungsvollen Umgang mit KI vor und die Gerichte setzen das durch. Menschen, die KI täglich nutzen, sollten die Fähigkeiten haben, optimal damit zu arbeiten.

Fazit: KI ist kein rechtsfreier Raum

Künstliche Intelligenz verändert, wie Unternehmen kommunizieren. Aber sie verändert nicht, wer die Verantwortung trägt. Die Gerichte ziehen eine klare Linie, auch auf Basis des EU AI Acts.

Wer KI im Kundenkontakt einsetzt, braucht nicht nur eine gute KI App. Er braucht Prozesse, Kontrolle, geschulte Mitarbeitende und eine klare Haltung zur Verantwortung.

Denn was die KI sagt, sagt das Unternehmen.

Jetzt starten: Demo

Genau dabei unterstützen unsere KI-Trainings von mybreev. Sie helfen Unternehmen, eine sichere, verantwortungsvolle und praxistaugliche KI-Kompetenz zu entwickeln — für Mitarbeitende, Fachbereiche und Führungskräfte. Wir greifen die Fragen auf, die im Alltag relevant werden: Halluzinationen, Datenschutz, Human Washing, Transparenz, Cyberrisiken, Urheberrecht, Geheimnisschutz und regulatorische Anforderungen wie den EU AI Act. Wenn Sie KI in Ihrer Organisation belastbar verankern möchten, zeigen wir Ihnen gern, welche Trainingsformate zu Ihrem Bedarf passen.

Fordern Sie gerne eine Demo zu beliebigen Themen an. 14 Tage kostenfrei

Quellen: 

• OLG Hamm (Az. 4 UKl 3/25, 12.05.2026): loebisch.com
• LG Hamburg (Az. 324 O 461/25, 2025): handelsblatt.com
• LG Kiel (Az. 6 O 151/23, 2024): datenschutzticker.de
• Air Canada v. Moffatt, Civil Resolution Tribunal (2024): hoganlovells.com
• EU AI Act (Verordnung (EU) 2024/1689): eur-lex.europa.eu

Hinweis: Dieser Blog wurde in der Recherche mit KI unterstützt.