Rechtsgrundlagen für KI-basierte Chatbots

Ein Chatbot ist ein technisches Dialogsystem mit den Optionen der Spracheingabe und -ausgabe. Herkömmliche Chatbots arbeiten ausschließlich nach festgelegten Regeln. Dagegen lernen KI-basierte Chatbots (KI: künstliche Intelligenz) auf Basis vorhandener Informationen oder Dialoge und generieren neue Inhalte („generative KI“).

Einsatzmöglichkeiten

KI-basierte Chatbots finden auf Websites oder Messaging-Plattformen Verwendung. Sie lassen sich mit weiteren Systemen verbinden, z.B. einer CRM- (Customer Relationship Management) oder Logistik-Software. Daraus ergeben sich vielfältige Einsatzbereiche für Abfragen durch Beschäftigte wie auch durch Interessenten und Kundschaft, insbesondere im Kundenservice, Marketing und Vertrieb.

Beim Einsatz lässt sich unterscheiden zwischen Chatbots, die lediglich allgemeine Anfragen beantworten, und solchen, die kunden- oder vertragsspezifische Anliegen bearbeiten können, z.B. Lieferstatus, Kontostand oder Kündigung.

KI-Verordnung ist relevant

Beim Einsatz von KI-Chatbots müssen Sie die KI-Verordnung (KI-VO) beachten, weil deren Anwendungsbereich eröffnet ist. Denn ein solcher Chatbot ist ein KI-System im Sinne der KI-VO. Sie gelten als Betreiber, weil Sie ein KI-System außerhalb des persönlichen Bereichs in eigener Verantwortung verwenden (vgl. Art. 3 Nr. 1 und 4 KI-VO).

Daher müssen Sie die KI-Kompetenz der Beschäftigten und Personen sicherstellen, die in Ihrem Auftrag mit Betrieb und Nutzung des Chatbots befasst sind (Art. 4 KI-VO). Weiterhin sind die verbotenen Praktiken gemäß Art. 5 K…