KI-Compliance KI-Kennzeichnung KI & Datenschutz
Ratgeber

KI-Chatbot-Compliance: Informationspflicht, DSGVO und Betreiberhaftung.

Wer KI-Chatbots gegenüber Nutzern einsetzt, muss ab August 2026 auf die KI-Interaktion hinweisen. Gleichzeitig gelten DSGVO-Anforderungen und Haftungsfragen. Was Betreiber jetzt klären sollten.

Zuletzt aktualisiert: Mai 2026

Hintergrund

Warum KI-Chatbots unter drei Rechtsrahmen gleichzeitig fallen.

KI-Chatbots sind in vielen Unternehmen bereits im Einsatz: als Kundendienst-Assistent auf der Website, als interner Wissensassistent für Mitarbeitende oder als KI-gestützte Telefonanlage. Ab August 2026 kommen zu den bereits bestehenden Datenschutz- und Wettbewerbsrecht-Pflichten die neuen Anforderungen der EU KI-Verordnung hinzu.

Art. 50 Abs. 1 KI-VO verpflichtet Betreiber, Nutzer darüber zu informieren, dass sie mit einem KI-System interagieren. Die DSGVO verlangt eine Rechtsgrundlage für die Verarbeitung der Gesprächsdaten und bei eingriffsintensiven Systemen eine Datenschutz-Folgenabschätzung. Das UWG wiederum verbietet kommerzielle Kommunikation, bei der die KI-Natur des Gesprächspartners verschleiert wird.

Die Herausforderung liegt weniger in der rechtlichen Einordnung als in der praktischen Umsetzung. Wer haftet, wenn ein Chatbot falsche Informationen gibt? Wann braucht man eine DSFA? Wie muss die Informationspflicht technisch gestaltet sein? Diese Fragen stellen sich nicht erst ab August 2026, sondern bereits heute bei der Planung und dem Betrieb von KI-Chatbots.

Aktueller Stand

Die Informationspflicht nach Art. 50 KI-VO gilt ab dem 2. August 2026. Die Omnibus-Einigung vom Mai 2026 lässt Art. 50 unverändert. Die EU-Kommission hat im Mai 2026 Leitlinien zu Art. 50 im Entwurf veröffentlicht, die konkrete Hinweise zur Gestaltung der Informationspflicht enthalten.

Kernaspekte

Die rechtlichen Anforderungen an KI-Chatbot-Betreiber.

Informationspflicht nach Art. 50 KI-VO

Ab dem 2. August 2026 müssen Betreiber von Chatbots und anderen KI-Systemen, die natürliche Sprache verarbeiten, Nutzer darüber informieren, dass sie mit einem KI-System interagieren. Ausgenommen sind Situationen, in denen das offensichtlich ist.

  • Information muss vor Beginn der Interaktion vorliegen
  • Klar und verständlich, keine versteckten Hinweise
  • Übergangsfrist für bestehende Systeme bis 2. Dezember 2026
  • Bußgeld bei Verstoß: bis zu 15 Millionen Euro oder 3 % des Jahresumsatzes

DSGVO: Rechtsgrundlage und DSFA

Jeder Chatbot, der mit Nutzern interagiert, verarbeitet personenbezogene Daten: Gesprächsinhalte, Nutzer-IDs, ggf. Standort oder Gerätedaten. Dafür braucht es eine Rechtsgrundlage. Bei eingriffsintensiven Anwendungen ist zusätzlich eine Datenschutz-Folgenabschätzung erforderlich.

  • Rechtsgrundlage nach Art. 6 DSGVO für Gesprächsdaten bestimmen
  • DSFA-Pflicht prüfen, insbesondere bei Zugriff auf Kundendaten
  • Datenschutzhinweise um Chatbot-Datenverarbeitung ergänzen
  • Auftragsverarbeitungsvertrag mit dem KI-Anbieter schließen

UWG: Transparenzpflichten

Das Gesetz gegen unlauteren Wettbewerb verbietet es, den kommerziellen Charakter einer Kommunikation zu verschleiern. Wer einen KI-Chatbot für Verkaufsgespräche einsetzt, ohne die KI-Natur offenzulegen, riskiert Unterlassungsansprüche und Abmahnungen.

  • Kommerzielle Chatbots müssen als KI erkennbar sein
  • Gilt parallel zur KI-VO-Informationspflicht ab August 2026
  • Abmahnrisiko bei irreführender Darstellung als menschlicher Mitarbeiter
  • Gilt auch für KI-gestützte Telefonie und Voicebots

Betreiberhaftung bei fehlerhaften Ausgaben

Wenn ein Chatbot falsche Informationen gibt, die zu einem Schaden führen, trifft die Haftung primär den Betreiber, nicht den KI-Modellanbieter. Der Betreiber hat den Chatbot in seinen Kontext eingebettet und ist für das eingesetzte System verantwortlich.

  • Haftungsverteilung im Vertrag mit dem KI-Anbieter prüfen
  • Disclaimer für KI-Ausgaben gestalten, wo haftungsrelevant
  • Eskalationsprozesse für fehlerhafte Chatbot-Antworten einrichten
  • Versicherungsschutz auf KI-Haftungsrisiken prüfen

Technische Umsetzung der Informationspflicht

Die KI-Verordnung schreibt keine bestimmte technische Form vor. In der Praxis haben sich mehrere Muster etabliert, die je nach Chatbot-Typ und Kanal unterschiedlich geeignet sind.

  • Dauerhaftes Label oder Badge im Chatfenster
  • Eröffnungsnachricht des Chatbots ("Ich bin ein KI-Assistent...")
  • Hinweis in der Datenschutzinformation und den Nutzungsbedingungen
  • Für Telefonie: Ansage zu Beginn des Gesprächs

Interne KI-Assistenten

Auch interne KI-Assistenten für Mitarbeitende fallen unter Art. 50 KI-VO, sofern die KI-Interaktion nicht ohnehin offensichtlich ist. Für die meisten internen Tools greift die Ausnahme. DSGVO-Pflichten gelten aber unabhängig davon, sobald Mitarbeiterdaten verarbeitet werden.

  • Informationspflicht entfällt wenn Nutzung des KI-Tools offensichtlich
  • Betriebsvereinbarung bei Einsatz von KI im Arbeitsverhältnis prüfen
  • DSGVO-Rechtsgrundlage für Verarbeitung von Mitarbeiterdaten
  • Interne Richtlinie für den Umgang mit KI-Assistenten empfehlenswert
Vorgehen

KI-Chatbot-Compliance bis August 2026 strukturiert aufbauen.

01

Chatbot-Inventar erstellen

Alle KI-Systeme mit Nutzerinteraktion erfassen: Website-Chatbots, interne Assistenten, Voicebots, KI-Funktionen in Standardsoftware.

02

Rechtsrahmen prüfen

Je Chatbot die Pflichten nach KI-VO, DSGVO und UWG einordnen. Haftungsanalyse gegenüber dem KI-Modellanbieter.

03

Informationspflicht umsetzen

Technische Umsetzung und redaktionelle Gestaltung des KI-Hinweises je Kanal. Datenschutzhinweise aktualisieren.

04

Dokumentation sichern

Compliance-Nachweis für Aufsichtsbehörden aufbauen. DSFA dokumentieren. Prozesse für laufende Überprüfung neuer Systeme.

FAQ

Häufige Fragen zur KI-Chatbot-Compliance.

Verwandte Themen

Art. 50 Abs. 1 der EU KI-Verordnung verpflichtet Betreiber von KI-Systemen, die in natürlicher Sprache mit Menschen interagieren, die Nutzer darüber zu informieren, dass sie mit einem KI-System kommunizieren. Die Pflicht gilt nicht, wenn dies im konkreten Kontext offensichtlich ist.

Die Informationspflicht nach Art. 50 KI-Verordnung gilt ab dem 2. August 2026. Für KI-Systeme, die bereits vor diesem Datum auf dem Markt sind, gilt eine Übergangsfrist bis zum 2. Dezember 2026.

Die KI-Verordnung schreibt keine bestimmte Form vor. Die Information muss klar und verständlich sein und dem Nutzer vor Beginn der Interaktion vorliegen. In der Praxis sind dauerhafte Hinweise im Chatfenster, Eröffnungsnachrichten des Chatbots oder ein sichtbares Label üblich.

Für Schäden durch fehlerhafte Chatbot-Ausgaben haftet in der Regel der Betreiber, also das Unternehmen, das den Chatbot gegenüber Nutzern einsetzt. Der Modell-Anbieter haftet nur in bestimmten Konstellationen. Die genaue Haftungsverteilung hängt vom Vertrag mit dem KI-Anbieter ab.

KI-Chatbots verarbeiten in der Regel personenbezogene Daten. Betreiber müssen eine Rechtsgrundlage nachweisen, Betroffenenrechte sicherstellen und prüfen, ob eine Datenschutz-Folgenabschätzung erforderlich ist. Bei Chatbots mit Zugriff auf Kundendaten ist eine DSFA in der Regel notwendig.

Art. 50 Abs. 1 KI-VO gilt grundsätzlich auch für interne KI-Assistenten. Wenn Mitarbeitende wissen, dass sie ein KI-Tool nutzen, greift die Ausnahme für offensichtliche Kontexte. Eine klare interne Kennzeichnung ist dennoch empfehlenswert.

KI-Chatbot: Pflichten kennen, Risiken vermeiden.

Informationspflicht, DSGVO und Haftung einordnen und umsetzen.

Kostenloses Erstgespräch buchen