Dieses Interview habe ich Bioskop gegeben, dem „Forum zur Beobachtung der Biowissenschaften und ihrer Technologien e.V.“. Für die Ausgabe „Digitale Gesundheit“ befragte mich Erika Feyerabend dazu, welche ethischen und gesellschaftlichen Konsequenzen die „Zugriffe auf den Datenkörper“ mit sich bringen und wie eine „informierte Einwilligung“ aussehen sollte. Viel Spaß beim Lesen!
BIOSKOP: Sie beschäftigen sich mit informierter Einwilligung im Zeitalter der Digitalisierung. Gibt es hier neuen Problemlagen?
MAIKE JANSSEN: Durch Einsatz von Künstlicher Intelligenz (KI) kommt eine große Frage dazu: Was kann eigentlich der Arzt, die Ärztin noch wissen? Überschauen sie die Lage? Wenn nicht, wie könnte man ihn begleiten? Heute haben wir nicht nur einen physischen Körper, den der Arzt behandelt. Wir haben auch einen Datenkörper. Da lohnt es sich schon, genauer hinzuschauen, woraus dieser Datenkörper besteht und wie er »verteilt« wird.
BIOSKOP: Was bedeutet das?
JANSSEN: Von Patientinnen und Patienten werden schon lange sehr viele Daten erhoben, die weniger objektiv sind, als sie scheinen. Sie sind immer abhängig von den Geräten und den Fragen, die an sie gestellt werden. Außerdem können die Leute selbst digitalisierte Daten sammeln. Das ist sehr beliebt geworden durch die Verbreitung der Health Apps, Watches und Armbänder, mit denen man eigene Körperfunktionen überwachen kann. Sie erscheinen wie eine objektive Repräsentation des leiblichen Körpers. Das ist ein Problem, weil auch diese vielen »unordentlichen« Daten die Grundlage für ärztliche und KI-Entscheidungen darstellen können. Zudem möchte ich darauf aufmerksam machen, dass dieser Körper – anders als unser ganzheitlicher physischer Körper – nicht als Ganzes weiter behandelt wird, sondern je nach Verwendungszusammenhang, je nach Zweck zerlegt und auf unterschiedliche Server verteilt wird.
BIOSKOP: Warum geschieht das?
JANSSEN: Für medizinische Forschung müssen mittlerweile sehr unterschiedliche Unternehmen und Organisationen zusammenarbeiten. Und alle haben eigene Interessen an den Patient*innendaten! Es geht mal um Pharmastudien, mal um medizinische Versorgung – oder es geht darum, dass Industriekonzerne mithilfe dieser Daten die »User-Experience« ihrer Software verbessern. Es geht also um ganz unterschiedliche Zwecke, für die mein Datenkörper fragmentiert, also in viele kleine Teile zerlegt und dezentral verschickt und verwendet werden kann. Darüber wird in der Regel nicht aufgeklärt in einem Behandlungsgespräch, weil es ja scheinbar erst mal nur um diesen physischen Körper geht.
BIOSKOP: Sie haben das selbst im Rahmen Ihres eigenen Forschungsprojekts beobachtet?
JANSSEN: Genau. Für meine Doktorarbeit habe ich einen Einzelfall untersucht, wo Patient*innen über extrem komplexe Zusammenhänge für ihre telemedizinische Behandlung aufgeklärt werden mussten. Im Aufklärungsdokument wurde das dann so gestaltet, dass alle Akteure einzeln aufgeführt wurden, die auf die Daten zugreifen. Das war schon einigermaßen transparent. Nur: Die einzelnen Interessen, die diese Akteure verfolgen, wurden nicht mitaufgeführt! Und darüber hinaus entstehen ja für diese KI-Anwendungen auch große neue Gesundheits-Netzwerke. Daran sind auch Start-ups und Hightech-Unternehmen beteiligt, außerdem unterschiedlichste Wissenschaftler, die Pharma-Industrie und nicht zuletzt auch die Politik. Die Patient*innen, die eine KI-Behandlung in Anspruch nehmen, spenden ihre Daten für diese Netzwerke. Nur wissen sie häufig nichts davon.
BIOSKOP: Wer war hier beteiligt?
JANSSEN: In dem von mir beforschten Software-Entwicklungsprojekt ging es hauptsächlich um Nierentransplantierte und chronisch Nierenkranke, die in einer Uniklinik in Behandlung waren. Diese Patient*innen stimmten zu, zusätzlich zu bekannten Kontrolluntersuchungen auch telemedizinisch überwacht zu werden. Sie verstanden sich dabei immer noch einfach als Patient*innen einer Uniklinik, auch wenn an ihrer Behandlung nun viele andere Unternehmen beteiligt waren.
BIOSKOP: Ist all das nicht viel zu abstrakt, um verständlich für Patient*innen sein zu können?
JANSSEN: Das ist in der Form kaum zu erfassen und dann auch noch in dieser speziellen Situation, in der sich die Patient*innen befinden. Schwierig ist auch, dass die Ärzt*innen das ebenfalls nur teilweise erkennen. Man muss nicht denken, dass sie sich gerne in den Dienst der Industrie oder anderer Akteure stellen wollen. Aber sie suchen nach innovativen Behandlungsmethoden, um die Versorgung zu verbessern und wichtige Fachartikel veröffentlichen zu können. Die neuen Technologien entstehen meist nicht direkt in den Unikliniken, werden aber gebraucht, um an Drittmittel zu kommen. Deshalb vernetzten sich Mediziner*innen großräumig. Schon ergeben sich komplexe Arrangements von unterschiedlichen Personen und Unternehmen, für die sich die Ärzt*nnen gar nicht besonders interessieren. Sie wollen einfach nur forschen! Doch so geraten sie ins Zentrum neuer Netzwerke, die niemand mehr so ganz überblickt.
BIOSKOP: Wie können wir denn zukünftig besser mit diesen neuen Arrangements umgehen?
JANSSEN: Darüber habe ich mit meinem Kollegen Eckhard Geitz nachgedacht und geschrieben. Wir haben einen Vorschlag entwickelt, den wir »Kartierung des Datenkörpers« nennen. Wir haben zu praktischen Beispielen Karten gezeichnet, die zeigen, wer welche Zugriffsrechte auf den Datenkörper hat und welche neuen Vernetzungen entstehen. Welches Arrangement entwickelt sich aus einer KI-Behandlung? Und welche strategischen Positionen ergeben sich daraus? Wenn ein Unternehmen alle anderen Zugriffe technisch kontrolliert, besitzt es eine strategisch machtvolle Position. Diese Kartierungen könnten ein gutes Werkzeug sein, auch für das Aufklärungsgespräch zwischen Arzt und Patient.
BIOSKOP: Das ist aber eine große Herausforderung …
JANSSEN: Gegen das Prinzip der informierten Einwilligung gibt es nichts einzuwenden, aber es reicht unter den Bedingungen von KI einfach nicht aus. Hier muss eine neue Daten-Alphabetisierung stattfinden! Alle, die im Gesundheitswesen diese Aufklärungsgespräche führen, sollten zumindest ein Problembewusstsein dafür entwickeln, was es heißt, unter Bedingungen von KI aufzuklären. In dem Moment, wo sich große Projektgemeinschaften um KI-Anwendungen bilden, sollten sie begleitet werden von jemandem, der das Ganze – wir nennen das multiperspektivisch – beobachten kann: Was ist der Kooperationszweck für jeden einzelnen Partner? Welches strategische Gesamtbild ergibt sich? Es ist aus meiner Sicht eine politische Aufgabe, diesen Umbau des Gesundheitswesens zu beobachten und gegebenenfalls zu regulieren.
BIOSKOP: Welche Akteure waren denn Teil des Netzwerks in Ihrem Forschungsprojekt?
JANSSEN: Das war zuerst eine nephrologische Klinik der Universitätsmedizin, ein großer Technologiekonzern und ein Start-Up, die zusammen eine Plattform entwickelt haben, um Patientendaten aus Klinik, Praxen und Patienten-App zusammenzuführen. Dazu brauchte man auch den Hersteller eines Praxissystems für niedergelassene Nephrologen. Er hat sein System so umgebaut, dass es die Patientendaten mit der Plattform austauschen konnte. Dazu kamen kleinere Firmen, die Software-Komponenten herstellen, z.B. um Wechselwirkungsanalysen zu Medikamenten durchzuführen. Dann waren noch zwei Forschungsinstitute angebunden, die eher an Trainingsdaten für ihre KI-Systeme interessiert waren. All das kann dem Patienten dienen. Gleichzeitig werden aber kommerzielle Produkte daraus entwickelt und Patient*innen werden fast unbemerkt zu Datenspender*innen für viele unterschiedliche Zwecke. Die nierentransplantierten Patienten und Patientinnen werden von der Industrie beispielsweise »high value« (von hohem Wert) genannt, weil ihre optimierte Behandlung große Kostenersparnisse und damit Gewinnmargen ermöglicht. Das sollten wir wissen.
BIOSKOP: Würde so etwas wie eine Beschwerdestelle helfen, zum Beispiel um Diskriminierungsgefahren zu identifizieren?
JANSSEN: Ich frage mich, ob das nicht schon eine Art von Kapitulation ist. Man geht ja dann schon davon aus, dass der Patient selbst die Kritikpunkte und Schwachstellen aufspüren muss. Grundsätzlich ist so eine Beschwerdestelle nicht falsch. Ich plädiere aber dafür, früher aktiv zu werden. Schon in dem Moment, wo die Technik entsteht, gerade wenn sie staatlich gefördert wird, sollten die angesprochenen strategischen Verknüpfungen dort begleitet werden, wo sie entstehen.
BIOSKOP: Ist das Modell nicht der Durchschnittsmensch bei diesen ganzen Datenmengen?
JANSSEN: Ich glaube, ganz so schnell sollte man nicht zu diesem Schluss springen. Natürlich werden nicht alle meine Daten zusammengezogen und mit anderen zusammen vermengt, und dann kommt da ein Durchschnittspatient raus. Jede Krankheit wird ja einzeln verglichen mit anderen statistischen Daten und dann abgeglichen, ob das einen kritischen Grenzwert ergibt. Ich kann zum Beispiel sehr zielgerichtet bestimmte Medikationen finden. Aber die werden, sofern es automatisiert passiert, hergeleitet aus einer großen Datenmenge, wo Abweichungen bemerkt werden können. Letztendlich würde sich dann schon die maßgeschneiderte Therapie durchsetzen, das ist ja kein schlechtes Versprechen. Aber es gibt eben auch diese strategische Position, nämlich was der Preis dieser personalisierten Therapie ist, dass jeder Patient zu einem Datenspender wird. Und die Auswirkungen davon sind unbedingt zu begleiten. Das kann ich nur als Plädoyer sagen.
Janssen, M. (2021). Zugriff auf den Datenkörper. Bioskop, 94 (Digitale Gesundheit), 10–11.
Schreibe einen Kommentar