Chatbot für Kundenanfragen: Wann ein KI-Hinweis Pflicht ist

Was verlangt Art. 50 Abs. 1 KI-VO?

Nach Art. 50 Abs. 1 KI-VO stellen Anbieter sicher, dass KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die Personen informiert werden, dass sie mit einem KI-System interagieren. Das gilt nicht, wenn dies aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich ist. Nach Abs. 5 muss die Information spätestens bei der ersten Interaktion klar und eindeutig erfolgen und den geltenden Barrierefreiheitsanforderungen entsprechen.

Die EU-Kommission nennt in ihren Fragen und Antworten zu Art. 50 Chatbots, KI-Agenten und Avatare ausdrücklich als Beispiele. Nach Art. 113 KI-VO gilt Art. 50 ab dem 2. August 2026. Die mit dem KI-Omnibus eingefügte Übergangsregel in Art. 111 Abs. 4 betrifft nur Anbieter generativer Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden: Sie müssen die maschinenlesbare Kennzeichnung nach Art. 50 Abs. 2 bis zum 2. Dezember 2026 umsetzen. Für den Hinweis nach Abs. 1 gilt diese Frist nicht.

Ist Ihr Betrieb Anbieter oder Betreiber des Chatbots?

Die Pflicht nach Abs. 1 richtet sich an den Anbieter. Anbieter ist nach Art. 3 Nr. 3 KI-VO, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Handelsmarke in Verkehr bringt oder in Betrieb nimmt. Betreiber ist nach Art. 3 Nr. 4, wer ein KI-System in eigener Verantwortung beruflich verwendet.

Bindet ein Großhändler ein Standardprodukt eines Softwarehauses in seine Website ein, liegt die Konzeptionspflicht beim Hersteller. Lässt er sich dagegen einen Chatbot individuell entwickeln und setzt ihn unter eigenem Namen ein, kann er selbst Anbieter sein. Die Grenze ist nicht immer eindeutig, etwa wenn ein Standardsystem stark angepasst wird. Unabhängig von der Rolle hat der Betrieb ein eigenes Interesse daran, dass der Hinweis tatsächlich erscheint: Der Kunde nimmt ihn als Gesprächspartner wahr. Verlassen Sie sich nicht darauf, dass die KI „offensichtlich“ ist. Ein kurzer Satz im Chatfenster wie „Sie schreiben mit einem KI-Assistenten“ ist schnell umgesetzt.

Was gehört in den Softwarevertrag und in die internen Regeln?

Im Vertrag mit dem Anbieter sollte festgehalten werden, wer den KI-Hinweis technisch umsetzt, dass er bei der ersten Interaktion angezeigt wird, dass er nicht durch Updates entfällt und wer ihn anpasst, wenn sich Leitlinien oder Rechtslage ändern. Sinnvoll ist auch eine Regelung, wer im Verhältnis zueinander einsteht, wenn der Hinweis fehlt.

Mindestens ebenso wichtig ist die Frage, was der Bot sagen darf. Nennt er Richtpreise, sollte klar erkennbar sein, dass diese unverbindlich sind, und es sollte feststehen, ab welchem Punkt ein Mitarbeiter übernimmt. Welche Bindungswirkung eine Preisangabe im Chat haben kann, hängt von Formulierung und Ablauf ab; klare Hinweise und Freigaberegeln verringern das Risiko. Datenschutzfragen und Bußgelder behandelt dieser Beitrag nicht.

Was Sie jetzt vorbereiten können

• Klären, ob der Betrieb Anbieter oder Betreiber des Chatbots ist
• KI-Hinweis im Chatfenster vorsehen, der bei der ersten Interaktion erscheint
• Festlegen, welche Preisangaben der Bot machen darf und wann ein Mensch übernimmt
• Softwarevertrag darauf prüfen, wer den Hinweis umsetzt und dauerhaft gewährleistet
• Hinweis nach jedem Update im Live-System kontrollieren