Atlas der Automatisierung

Automatisierte Entscheidungen
und Teilhabe in Deutschland

       

Gesundheit & Medizin

ADM kommt in der Medizin als Instrument für Diagnose und Therapie­entscheidungen zum Einsatz sowie bei der Zuordnung von Ressourcen im Gesundheitsmanagement.

Kliniken, Arztpraxen und Krankenkassen, aber auch private Endkund*innen nutzen ADM im medizinischen Kontext. Während Privatpersonen Apps mit ADM verwenden, die auch über den engeren medizinischen Anwendungsbereich hinausgehen und Zielen wie Fitness oder Selbstoptimierung dienen, ist ADM in der Klinik oder der Arztpraxis oftmals in komplexere Softwareumgebungen eingebunden, in die Verordnung von Medizinprodukten und in die Interaktion mit Diagnoseinstrumenten (zum Beispiel in der Radiologie).

DIAGNOSE UND THERAPIE

Apps können medizinisches Fachpersonal bei der Diagnose von Krankheiten unterstützen. Besonders weit fortgeschritten sind Algorithmen, die Bilddaten wie Computertomografien, Magnetresonanztomografien oder andere medizinische Daten auswerten und so zum Beispiel in der Krebserkennung oder der Pränatalmedizin zur Diagnosestellung beitragen. Wissenschaftliche Studien zeigen, dass ADM-Systeme Auffälligkeiten im Bild verlässlicher detektieren und interpretieren können als das geschulte menschliche Auge [Link].

Weiter kommt ADM bei der Auswertung von genetischen Tests, in der Roboter-Chirurgie und bei der Suche und Auswertung von Forschungsliteratur-Datenbanken zum Einsatz [Link].

Andere ADM-gestützte Anwendungen richten sich an Patient*innen und zielen darauf ab, sie bei der Therapie ihrer Krankheiten zu unterstützen. Hierbei handelt es sich größtenteils um Smartphone-Apps, gegebenenfalls im Verbund mit Smart Watches, die besonders bei chronischen oder langfristigen Erkrankungen von Nutzen sein können. Manche dieser Apps haben eine simple Erinnerungsfunktion für die Einnahme von Medikamenten, komplexere Systeme überwachen dagegen engmaschig Messwerte, zum Beispiel die Blutzuckerwerte von Diabetiker*innen, um ihnen das Management ihrer Krankheit zu erleichtern.

Während ADM-gestützte Apps und Therapiehilfen einerseits Behandlungserfolge deutlich steigern und insbesondere chronisch kranken Menschen zu mehr Unabhängigkeit von ständiger ärztlicher Behandlung und Kontrolle verhelfen können, sind sie andererseits auch mit einer Reihe von Problemen und Risiken behaftet. Beim Einsatz von ADM-Systemen für die Diagnose und Therapieempfehlung erscheint problematisch, dass diese Systeme möglicherweise nicht immer nur auf das Wohl der Patient*innen ausgerichtet sind, sondern auch für die Steigerung des Profits derjenigen sorgen, die das ADM-System entwickeln oder vertreiben. Dies könnte durch Empfehlungen einer ADM-gestützten Anwendung für bestimmte Tests, Medikamente und Medizinprodukte geschehen. Folgen die Patient*innen diesen Empfehlungen, könnte das für sie mit zusätzlichen Kosten oder sogar mit unverhältnismäßigen Nebenwirkungen verbunden sein.

In Bezug auf Teilhabeaspekte ist der Einsatz von ADM in der Diagnose insofern problematisch, als dass Patient*innen, die in Bezug auf bestimmte biologische Merkmale eine Minderheit darstellen, systematisch benachteiligt werden könnten, weil die verwendete Datengrundlage für die betreffende Gruppe unzureichend ist oder zu Fehleinschätzungen führt. In einer Studie zur Bestimmung des Risikos von Herzerkrankungen tendierten beispielsweise algorithmenbasierte Diagnosen bei Patient*innen, die nicht der weißen Bevölkerungsmehrheit angehörten, sowohl zur Über- wie zur Unterschätzung von Risiken [Link].

GESUNDHEITSMANAGEMENT

ADM-Systeme können darüber hinaus auch genutzt werden, um eine effizientere Verteilung von Ressourcen im Gesundheitsbereich zu ermöglichen.

Bereits heute werden zum Beispiel bei der Entscheidung über die Zuteilung von Spenderorganen für eine Organtransplantation Patient*innen auf Basis bestimmter Parameter priorisiert, darunter Dringlichkeit und Erfolgsaussicht. Die Nutzung von ADM-basierten Vergabesystemen könnte jedoch bei Entscheidungen über Spenderorgane, ebenso wie bei Entscheidungen über andere medizinische Interventionen, zu selbsterfüllenden Prophezeiungen führen und dadurch bestimmte Gruppen von Patient*innen systematisch benachteiligen. Wenn etwa Patient*innen mit Hirnschäden oder Frühgeborene von bestimmten Behandlungen praktisch ausgeschlossen würden, weil mutmaßlich nur geringe Erfolgsaussichten bestünden, dann würde auch ein ADM-System diese bereits bestehende Praxis abbilden. Auf diese Weise könnten sich Entscheidungskriterien verfestigen, auch wenn diese auf Mutmaßungen beruhen und durch keine solide Datenbasis legitimiert sind.

Ein weiteres potentielles Einsatzfeld von ADM im Gesundheitswesen liegt im Bereich der privaten Krankenversicherungen. Hier könnte ADM helfen, das individuelle Risiko für bestimmte Erkrankungen zu berechnen, was wiederum zur Anpassung von Versicherungsverträgen verwendet werden könnte. Versicherte könnten auf diese Weise in stärkerem Maße als bisher in Risikogruppen unterteilt werden, die unterschiedliche Beiträge in die Versicherung einzahlen müssten. Dies könnte im Hinblick auf soziale Fairness und Teilhabe relevant sein und zu einer Verschärfung bestehender Ungleichheiten führen. Gesundheits- und Lifestyle-Apps auf Smartphones, oft im Zusammenspiel mit Fitness-Armbändern und Smart Watches spielen in diesem Kontext (“quantified self”) eine wichtige Rolle. Es gibt offenbar Überlegungen von privaten Krankenkassen in Deutschland, die Nutzung solcher Apps zur Voraussetzung für günstigere Versicherungstarife zu machen. Dies allein könnte zur Benachteiligung von Versicherten führen, die die betreffenden Apps nicht nutzen können oder die davon in Bezug auf ihren Versicherungstarif keine Vorteile hätten. Darüber hinaus kann auch die Art und Weise, in der die mittels App erhobenen Daten für die Anpassung der Tarife ausgewertet werden, zu Diskriminierungen führen.

 


Regulierung Von Digitalen Medizinprodukten

ADM-gestützte Softwaresysteme, die im klinischen oder ambulanten Bereich zum Einsatz kommen, müssen als Medizinprodukte registriert werden. Die Zulassung und Qualitätskontrolle von Medizinprodukten wird nach Maßgabe der europaweit geltenden Medizinprodukteverordnung durch das Bundesinstitut für Arzneimittel und Medizinprodukte geregelt.

Gesundheits-Apps, die sich an Endverbraucher*innen richten, sind derzeit überwiegend nicht als Medizinprodukte registriert und unterliegen somit keiner Qualitätskontrolle. Mit der 2020 in Kraft tretenden Neufassung der EU-Medizinprodukteverordnung werden allerdings sowohl die Registrierungspflichten für Apps ausgeweitet als auch Apps, die einen deutlichen diagnostischen oder therapeutischen Ansatz verfolgen, in eine höhere Risikoklasse eingestuft. Ob die Änderungen der Neufassung ausreichend sind, um Probleme und Risiken solcher Apps zu beseitigen, ist allerdings umstritten.


Nächstes Kapitel: Thema: Das Internet

Vorheriges Kapitel: Thema: Arbeit

Inhaltsverzeichnis