Gratis
14. Mai 2019 - Künstliche Intelligenz

Datenschutz und KI: Arbeitspapier der Berlin Group

Drucken

Der Entwicklung selbstlernender und „intelligenter“ Computersysteme messen Wirtschaft und Politik derzeit einen hohen Stellenwert bei. Die Berlin Group nimmt in einem Arbeitspapier dazu Stellung und spricht Handlungsempfehlungen aus.

Handlungsempfehlungen zum Datenschutz bei künstlicher Intelligenz veröffentlicht (Bild: PhonlamaiPhoto / iStock / Getty Images Plus) Handlungsempfehlungen zum Datenschutz bei künstlicher Intelligenz veröffentlicht (Bild: PhonlamaiPhoto / iStock / Getty Images Plus)

Die Internationale Arbeitsgruppe zum Datenschutz in der Telekommunikation traf sich zum 64. Mal. Die sogenannte Berlin Group unter der Leitung der Berliner Beauftragten für Datenschutz und Informationsfreiheit, Maja Smoltczyk, verabschiedete dabei das Arbeitspapier „Datenschutz und künstliche Intelligenz“.

Damit greift die Gruppe die aktuelle Entwicklung in den Computer-Wissenschaften und der Wirtschaft auf, Systeme mit künstlicher Intelligenz (KI-Systeme) zu schaffen. Diesen Systemen räumen Experten in zahlreichen Bereichen großes Potenzial ein.

KI-Systeme können

  • Prozesse optimieren und automatisieren – etwa bei der Schadensanalyse in Versicherungen,
  • Produkte verbessern und hervorbringen – durch Analysen im klassischen Handel und
  • bei der Diagnose von Krankheiten unterstützen.

Herausforderung für den Datenschutz

Die Entwicklung und das Training solcher Systeme benötigt große Datenmengen. Und das betrifft regelmäßig personenbezogene Daten.

Das auf Englisch verfasste Arbeitspapier, dessen Übersetzung in den nächsten Monaten folgen soll, greift verschiedene Aspekte und Problemfelder heraus, zum Beispiel:

  • Probleme mit der Zustimmung
    Das Zusammenziehen von Informationen unterschiedlicher Quellen birgt die Gefahr von undurchsichtiger Verarbeitung. Außerdem besteht das Risiko, dass der Ansatz des maschinellen Lernens unverständlich erklärt wird.
    Werden die personenbezogenen Daten eines Betroffenen verarbeitet, ist dazu dessen Einwilligung erforderlich. Um diese ordnungsgemäß erteilen zu können, muss der Betroffene über eine solche Verarbeitung informiert sein. Auch muss er den Zweck dieser Verarbeitung verstehen.
  • Falsche Annahmen und Diskriminierung
    Die Folge wäre dann eine weitere Diskriminierung von betroffenen Personen, die auf Basis eines automatisierten Prozesses mit Nachteilen rechnen müssten.
    Möglicherweise sind bei der Entwicklung der Algorithmen die Daten von Personengruppen unterrepräsentiert. Die Autoren halten diesen Aspekt für sehr wichtig. Denn damit könnte es zu falschen Annahmen kommen, auf deren Basis später ebenso falsche Entscheidungen entstehen.

Analyse von KI-Technologie und Entwicklungshinweise

Das Positionspapier (Download als PDF) widmet sich in seinem ersten Teil einer allgemeinverständlichen Einführung in das Thema künstlicher Intelligenz.

Danach listet es verschiedene existierende Beispiele für die Anwendung von KI auf.

Im zweiten Teil sind aus Sicht der Berlin Group bestehenden Probleme mit der Entwicklung von KI in Bezug auf Datenschutz, Privatsphäre und informeller Selbstbestimmung dargestellt.

Damit will das Dokument nicht nur ein Bewusstsein für die Probleme wecken, sondern gibt konkrete Hinweise darauf, wie sich diese im Entwicklungsprozess vermeiden lassen.

Stephan Lamprecht