Datenschutz-Folgenabschätzung bei KI-Systemen
DP+
Bild: atarax; Icons: iStock/Getty Images Plus/anttohoho
Künstliche Intelligenz
Gerade mit dem aktuellen Vormarsch von KI-Systemen ist die Durchführung einer Datenschutz-Folgenabschätzung wichtiger denn je und ein wertvolles Instrument: nicht nur, um den gesetzlichen Anforderungen zu genügen, sondern auch, um etwaige Risiken entdecken und adressieren zu können.
Beispielszenario: KI auf Webshop
Anhand eines konkreten Fallbeispiels sei die Durchführung einer DSFA bei einer KI-Anwendung skizziert. Ein klassisches Feld, das jetzt schon mit KI-Systemen arbeitet, ist die Beantwortung von Kundenanfragen, sei es in Form eines Chatbots auf der Webseite, bei Anrufen oder auch für die Beantwortung von Bewertungen in Webshops.
Üblicherweise ist bei KI-Systemen nicht nur ein einziger Anbieter involviert. Oftmals bedient sich der Anbieter entsprechender KI-Dienste von Unternehmen wie OpenAI (ChatGPT) oder Microsoft (Copilot), auf denen dann das KI-System basiert. Häufig haben diese Anbieter ihren Hauptsitz oder Server in Drittländern außerhalb der EU/des EWR. Daher müssen Verantwortliche die damit verbundenen datenschutzrechtlichen Probleme ebenfalls betrachten und können sie im Rahmen der Risikoanalyse mit analysieren.
Nehmen wir an, das KI-System läuft über einen europäischen Anbieter mit US-KI. Der Verantwortliche setzt das System auf dem hauseigenen Webshop ein. Im Webshop besteht die Möglichkeit, Produkte zu bewerten und Kommentare abzugeben. Aufgrund der Vielzahl dieser Kommentare soll nun die Anwendung KI-gestützt auf diese Kommentare und Bewertungen reagieren, indem sie Fragen oder Probleme mit dem Produkt…
Verfasst von
Marc Wanner
Marc Wanner ist Volljurist und arbeitet bei der atarax Unternehmensgruppe. Er berät seit vielen Jahren Unternehmen unterschiedlichster Größe zum Thema Datenschutz.
