Sie verwenden einen veralteten Browser. Um im Internet auch weiterhin sicher unterwegs zu sein, empfehlen wir ein Update.

Nutzen Sie z.B. eine aktuelle Version von Edge, Chrome oder Firefox

Fit für die DSGVO finden Sie jetzt hier
Analyse
24. Mai 2019

Künstliche Intelligenz in der Medizin

DP+
Künstliche Intelligenz in der Medizin
Bild: iStock.com / PhonlamaiPhoto
0,00 (0)
Chancen und Risiken
Künstliche Intelligenz (KI) dringt in viele Lebensbereiche vor. Geben Sie daher doch einmal den Kolleginnen und Kollegen in einem besonders sensiblen Bereich wie der Medizin Einblick in die Entwicklung.

Bereits heute gibt es verschiedene Einsatzmöglichkeiten von KI-basierten Anwendungen. Sie lassen sich danach unterscheiden, ob Mediziner oder nicht-medizinische Nutzer sie verwenden.

Was versteht man unter KI?

Künstliche Intelligenz (KI) ist ein umfassender Begriff für Anwendungen, bei denen Maschinen menschenähnliche Intelligenzleistungen erbringen. Dazu gehören z.B. Lernen, Urteilen und Probleme lösen.

Die Grundidee der KI besteht darin, mit Maschinen eine Annäherung an Funktionen des menschlichen Gehirns zu schaffen.

Zum Bereich der KI zählt auch das Verarbeiten natürlicher Sprache (NLP – Natural Language Processing) wie z.B. Amazon Alexa und das maschinelle Lernen (ML – Machine Learning).

Letzteres lehrt Computer, aus Daten und Erfahrung zu lernen und Aufgaben immer besser auszuführen.

Dabei können Algorithmen in unstrukturierten Datensätzen wie z.B. Bildern, Texten oder gesprochener Sprache Muster erkennen und daraus selbständig Entscheidungen treffen.

Diagnosevorschlag per App

Für Nicht-Mediziner gibt es neben der „normalen“ Recherche über Google & Co. die Möglichkeit, frei verfügbare Smartphone-Apps zu nutzen, um persönliche Krankheitsanzeichen einordnen zu können.

Zu diesen Apps gehört z.B. „Ada Health“ eines Berliner Start-up-Unternehmens. Die Ada-App kann auf Basis der vom Nutzer eingegebenen Informationen eine Anamnese vornehmen, also die Krankheitsgeschichte aufnehmen, und einen Diagnosevorschlag abgeben.

Ada Health basiert auf einer umfassenden Datenbank, die sich durch anonymisierte Patientendaten ständig erweitert. Die Analyse des Krankheitsbilds geschieht dann über einen KI-gesteuerten Fragenkatalog, den Ada im Chat mit dem jeweiligen Nutzer durchgeht.

Im Ergebnis erfährt der Anwender, ob er sinnvollerweise einen Arzt aufsuchen sollte.

Auch Ärzte können sich mithilfe solcher Apps Unterstützung bei der Diagnose holen und sich z.B. über mehrere mögliche Diagnosen informieren.

Dadurch lassen sich entweder weitere Untersuchungen anstoßen oder überflüssige Zusatzuntersuchungen vermeiden.

Auswertung von Röntgenbildern

Im Bereich der Radiologie kommen KI-Systeme bereits heute zum Einsatz, wenn es darum geht, Röntgenbilder zu analysieren und auszuwerten.

In diesem medizinischen Bereich liegen die auszuwertenden Daten digitalisiert vor, sodass die Voraussetzungen für den Einsatz von KI gegeben sind.

Die Aufgabe, die Aufnahmen auszuwerten, ist monoton und zeitintensiv, sodass die KI im Vergleich zu einem Menschen weniger fehleranfällig ist.

Apps in der Notfallaufnahme

In einer geplanten Studie wollen zwei deutsche Universitätskliniken herausfinden, ob sich Systeme wie Ada Health einsetzen lassen, um in Notfallaufnahmen die Patientensteuerung zu verbessern.

Geplant ist dabei, Patienten in der Notaufnahme mithilfe der App Fragen zu Symptomen und zur Krankheitsvorgeschichte zu stellen. Die Ärzte sollen dann Zugriff auf diese Informationen und den Diagnosehinweis der App erhalten. Außerdem sollen die Ärzte einsehen können, wie die App zu diesem Diagnosehinweis gekommen ist.

Ziel ist, Patienten schneller dem richtigen medizinischen Bereich eines Krankenhauses zuordnen zu können.

Blick in die Zukunft

Generell zeichnen sich einige wesentliche Bereiche für den Einsatz von künstlicher Intelligenz in der Medizin ab:

Diagnose von Krankheiten

In der Diagnose werden Machine-Learning-Algorithmen eingesetzt, die lernen können, Muster ähnlich wie ein Arzt zu sehen.

Für diesen Lernprozess benötigt die KI eine sehr große Menge an Beispielmustern, die digitalisiert vorliegen müssen. Das können z.B. Muster bestimmter Hautveränderungen sein, das Erkennen von Lungenkrebs aufgrund von CT-Aufnahmen oder MRT-Aufnahmen des Herzens.

Mithilfe der KI lassen sich auch Biomarker für die Diagnose von Krankheiten leichter finden. Biomarker sind Moleküle im Körper, z.B. im Blut, die mit ziemlicher Sicherheit anzeigen, ob eine Person eine bestimmte Krankheit hat oder nicht.

Der Vorteil der KI ist, dass sie sehr schnell und kostengünstig eine Diagnose liefert. Erforderlich ist aber, dass die KI anhand von Patientendaten in anonymisierter Form trainiert wird.

Für die Zukunft erhofft man sich, dass die KI in der Lage ist, eine Vielzahl von Daten zu kombinieren, die wiederum aus verschiedenen Untersuchungsmethoden resultieren (CT, MRT, Laboruntersuchungen, handschriftliche Aufzeichnungen), und daraus eine Diagnose herzuleiten.

Die KI könnte entsprechende kritische Punkte markieren, sodass ein Arzt sich ausschließlich der Interpretation der Krankheitsanzeichen widmen kann.

Entwicklung neuer Medikamente

Neue Medikamente zu entwickeln, ist teuer und zeitintensiv. In diesem Bereich kann künstliche Intelligenz helfen, Zeit und Kosten zu sparen.

Algorithmen sind in der Lage, aus verschiedenen Molekülen ein neues Medikament zu „puzzeln“. Sie können analysieren, an welcher Stelle ein neues Medikament ansetzen kann, um wirksam gegen eine bestimmte Krankheit zu sein.

KI kann zudem dabei helfen, geeignete Patienten für klinische Studien im Vorfeld einer Medikamentenzulassung zu finden, und sie kann die Studienteilnehmer auch gleich in bestimmte Gruppen einteilen.

Personalisierte Behandlung

Patienten reagieren durchaus unterschiedlich auf eine bestimmte Behandlung. Eine personalisierte Behandlung kann z.B. die Lebenserwartung von Patienten erhöhen. Es ist aber schwierig und zeitaufwändig, herauszufinden, welche Behandlung für welchen Patienten passend ist.

Diese statistische Auswertungsaufgabe kann eine künstliche Intelligenz übernehmen, um herauszufinden, welche Patienten mit welchen speziellen Merkmalen auf bestimmte Behandlungsmethoden ansprechen. Die KI stellt dann eine Ergebnisprognose.

Das erleichtert es dem Arzt, einen für seinen Patienten passenden Behandlungsplan zu entwerfen.

Klinischer Alltag

KI lässt sich dafür einsetzen, den Ablauf von Operationen zu optimieren. Der Arzt / Chirurg würde dann Informationen über die nächsten Arbeitsschritte erhalten. Und bei unerwarteten Ereignissen kann er über das KI-System auf die Erfahrung anderer Ärzte zurückgreifen.

Zukünftig könnte sich die Chirurgie vom menschlichen Handwerk weg hin zur Überwachung der OP-Abläufe entwickeln, wenn z.B. Roboter die „handwerklichen“ OP-Tätigkeiten übernehmen.

Kritik 1: zu intransparent

Ein großer Kritikpunkt an KI in der Medizin (und nicht nur dort) ist derzeit, dass nicht transparent ist, wie die verschiedenen Algorithmen überhaupt funktionieren.

  • Das liegt zum einen daran, dass die Unternehmen, die KI-Systeme entwickeln und programmieren, mit dem Verkauf Gewinn machen möchten und die zugrundeliegenden Algorithmen sowie die Trainingsdaten als Betriebsgeheimnis ansehen.
  • Zum anderen sollen die Systeme selbst lernen und sich weiterentwickeln. So dürfte in vielen Fällen gar nicht abzusehen sein, warum sich Algorithmen letztlich verhalten und entscheiden, wie sie es tun.

Für den behandelnden Arzt ist es aber wichtig, genau zu wissen, wie ein KI-System zu seinen Diagnosen oder Empfehlungen kommt.

Nur dann kann der Arzt die Empfehlung des KI-Systems nachvollziehen und seine Behandlungsstrategie auf diese Empfehlung ausrichten.

Kritik 2: Haftungsfragen ungeklärt

Für Fehldiagnosen und Falschbehandlungen haftet nach derzeitigem Recht der Arzt, sofern sich ihm Behandlungsfehler nachweisen lassen.

Wie ist es aber beim Einsatz von KI?

  • Wer ist für eine Diagnose verantwortlich: der behandelnde Arzt oder die Technik?
  • Kann man eine KI selbst in Haftung nehmen, oder trifft dies den Anbieter oder Entwickler der KI?
  • Welche Haftungskette ergibt sich daraus? Muss ein falsch behandelter Patient immer zuerst – wie bisher – den Arzt beispielsweise auf Schadensersatz und Schmerzensgeld verklagen, und der Arzt nimmt im Nachgang den KI-Anbieter in Anspruch? Oder kann ein Patient, der aufgrund einer falschen KI-Diagnose ebenso falsch behandelt wurde, sofort den KI-Anbieter in Haftung nehmen?

Zu all diesen Haftungsfragen gibt es derzeit in Deutschland keine klaren Regelungen.

Solche Regeln muss der Gesetzgeber erst schaffen, wenn KI-Systeme in der Medizin zukünftig umfassend zum Einsatz kommen sollen.

Herausforderungen für den Datenschutz

KI-Systeme im medizinischen Bereich sind für den Datenschutz eine große Herausforderung. Denn es geht um die Verarbeitung meist sehr großer Mengen an besonderen Kategorien personenbezogener Daten im Sinne des Art. 9 Datenschutz-Grundverordnung (DSGVO), nämlich um Gesundheitsdaten.

Sie unterliegen einem besonderen Schutz und dürfen nur unter ganz bestimmten Voraussetzungen verarbeitet werden. Darüber hinaus sind die grundsätzlichen Regeln der DSGVO und des Bundesdatenschutzgesetzes (BDSG) anwendbar.

Damit ist für KI-Anbieter z.B. eine Datenschutz-Folgenabschätzung zwingend.

Einwilligung oder Verarbeitung zu wissenschaftlichen Forschungszwecken?

Um KI in der Medizin, z.B. der Diagnostik, einsetzen zu können, müssen die Systeme trainiert werden. Das geht nicht ohne große Datenmengen. Die KI muss, etwa anhand von Röntgenbildern, darauf angelernt werden, bestimmte Krankheitsanzeichen zu erkennen.

Hinter jedem Röntgenbild steht aber eine natürliche Person. Muss sie in die Verwendung ihrer Gesundheitsdaten zum Zweck des Trainings einer KI einwilligen, wie es Art. 9 DSGVO vorsieht?

Oder kann § 27 BDSG – Verarbeitung zu wissenschaftlichen Forschungszwecken – mit einer entsprechenden Interessenabwägung ausreichen, sodass die Einwilligung jedes Patienten verzichtbar ist?

Der jeweilige Anbieter einer KI wird ein klares wirtschaftliches Interesse an den Patientendaten haben: Er will sein KI-System so trainieren, dass es sich vermarkten lässt.

Im Vordergrund stehen also keine wissenschaftlichen Forschungszwecke. Damit ist immer eine ausdrückliche Einwilligung der Patienten auf informierter Grundlage notwendig, um Gesundheitsdaten für KI-Trainingszwecke verwenden zu können.

Besonderheiten automatisierter Entscheidungsfindung beachten

Bisher geben KI-Systeme nur Diagnoseempfehlungen ab. Die Entscheidung über die Diagnose und die erforderliche Behandlung eines Patienten trifft ein Arzt.

Wie sieht es aber aus, wenn zukünftig weiterentwickelte KI-Systeme in der Lage sind, richtige Diagnosen zu stellen und Behandlungen zu empfehlen? Dann greifen die Regelungen des Art. 22 DSGVO zur automatisierten Entscheidungsfindung.

Danach darf eine automatisierte Entscheidung im Bereich von Gesundheitsdaten nur mit ausdrücklicher Einwilligung der betroffenen Person stattfinden oder wenn aufgrund einer Rechtsvorschrift ein erhebliches öffentliches Interesse an dieser Automatisierung besteht. Letzteres kann beispielsweise eine Vorschrift sein, um Epidemien zu verhindern.

In den meisten Fällen wird es auf eine Einwilligung der betroffenen Person ankommen. Wichtig ist dabei, dass der Verantwortliche im Rahmen seiner Informationspflichten die Betroffenen darüber aufklärt, dass es sich um eine automatisierte Entscheidungsfindung handelt.

Datensicherheit extrem wichtig

Dem Bereich „Datensicherheit“ kommt, da es sich um sensible Daten handelt, ein ganz besonderes Augenmerk zu.

  • Wie immer muss klar sein, wer Zugriff auf die Daten hat und mit welchen technischen und organisatorischen Maßnahmen eine gesicherte Aufbewahrung erfolgt.
  • Wo werden die Daten gespeichert? Auf Servern des Anbieters oder in der Cloud? Oder werden die Daten sogar in Drittstaaten übermittelt?
  • Sind die Daten gesichert entpersonalisiert? Ist sichergestellt, dass kein Rückbezug auf die dahinter stehende natürliche Person möglich ist?

Mögliche Nachteile beachten

KI im medizinischen Bereich hat unbestreitbar Vorteile. Allerdings sind auch Nachteile zu beachten.

Angesichts der fortschreitenden Entwicklung der KI-Systeme kann irgendwann ein Zustand erreicht sein, in dem Ärzte möglicherweise nicht mehr in der Lage sind, ohne Hilfe von KI Diagnosen zu stellen.

Fällt die KI aus, z.B. wegen eines Strom- oder Internetausfalls, sind Ärzte dann nicht mehr in der Lage, Patienten zu behandeln. Das kann schnell zu einer Frage von Leben und Tod werden.

Im Zusammenhang mit der automatisierten Entscheidungsfindung kann eine Weiterentwicklung dazu führen, das die KI – und damit die Maschine – darüber entscheidet, ob und welche Behandlung ein Patient bekommt. Bei Missbrauch sortiert die KI möglicherweise Patienten als nicht mehr therapierbar aus.

Deshalb sollte die Entscheidung über erforderliche Behandlungsschritte immer einem menschlichen Arzt vorbehalten bleiben.

Fazit: viele Vorteile, aber auch viele offene Fragen

KI-Systeme in der Medizin können für Patienten und Ärzte Vorteile im Sinne einer „besseren Medizin“ mit sich bringen. Das können beispielsweise schnellere Diagnosen oder speziell auf den Patienten zugeschnittene Behandlungsschritte sein.

Da sensible Gesundheitsdaten betroffen sind, muss zwingend der Datenschutz sichergestellt sein. Allerdings fragt sich, wie das letztlich möglich ist bei Systemen, die sich irgendwann einmal selbständig weiterentwickeln, in erster Linie im Hinblick auf die nötige Transparenz.

Außerdem sind noch Haftungsregelungen neu zu entwickeln und klar festzuschreiben.

Andrea Gailus

Andrea Gailus
+

Weiterlesen mit DP+

Sie haben noch kein Datenschutz-PRAXIS-Abo und möchten weiterlesen?

Weiterlesen mit DP+
Konzentrieren Sie sich aufs Wesentliche
Profitieren Sie von kurzen, kompakten und verständlichen Beiträgen.
Kein Stress mit Juristen- und Admin-Deutsch
Lesen Sie praxisorientierte Texte ohne Fußnotenapparat und Techniker-Sprech.
Sparen Sie sich langes Suchen
Alle Arbeitshilfen und das komplette Heftarchiv finden Sie online.
Verfasst von
DP
Andrea Gailus
Rechtsanwältin Andrea Gailus ist in eigener Anwaltskanzlei tätig und befasst sich neben dem Zivilrecht schwerpunktmäßig mit IT- und Datenschutzrecht.
Vielen Dank! Ihr Kommentar muss noch redaktionell geprüft werden, bevor wir ihn veröffentlichen können.