Penelope

Die Welt verbessern als App-Entwicklerin

Penelope ist eine App-Entwicklerin mit einer Idee, die die Welt verbessern könnte. Die genauen Details müssen – vorerst – ein Entwicklergeheimnis bleiben. Ihre Idee beinhaltet die Nutzung von Biodaten, um die Gesundheit und das Wohlbefinden der Nutzenden zu verbessern. Die App soll auch bei der Prävention der häufigsten Krankheitsursachen helfen. Penelope hat außerdem vor, dass die App soziale Determinanten von Gesundheit und Krankheit, wie etwa Armut, berücksichtigen wird.

Als jemand, der die Debatten im Bereich der globalen Gesundheit verfolgt, ist sich Penelope einiger der großen Herausforderungen unserer Zeit, wie Klimawandel, Antibiotikaresistenzen und wachsende Ungleichheit, bewusst. Sie möchte dabei helfen, Lösungen zu finden. Sie ist ein pragmatischer Mensch und weiß, dass es nicht möglich sein wird, eines dieser Probleme mit einem großen Plan zu “lösen”. Sie denkt vielmehr, dass sich jede Person bemühen sollte, ihr Umfeld auf eine Art und Weise zu gestalten, dass die Gesundheit gefördert wird und dass Zugang zu Gesundheitsdiensten erleichtert wird.

Gleichzeitig muss Penelope Geld verdienen, um ihr innovatives Projekt zu finanzieren und auch für sich selbst zu sorgen. Sie hat einen Teil ihrer Ersparnisse in ein Start-up investiert und es geschafft, einen Kredit von einer Bank zu bekommen. Zusätzlich erhält ihr Projekt Mittel von einer Nichtregierungsorganisation, die in ihrem Heimatland Griechenland Unternehmertum fördert.

Penelope möchte erfolgreich sein. Das möchte sie aber auch auf dem bestmöglichen Weg tun. Sie will eine ‘ethische App’ entwickeln, eine, die ihre Nutzenden nicht ausnutzt, indem sie ihnen so viele Informationen wie möglich entlockt und dabei ihre Vulnerabilitäten ausnutzt. Das Feld der ethischen Überlegungen ist allerdings komplex und entmutigend für sie. Es gibt so viele Dinge zu bedenken: Diskriminierung durch Algorithmen, Ungerechtigkeit aufgrund von unterschiedlichen Nutzerkompetenzen, das Verlagern der Verantwortung von Gesundheitsdienstleistenden auf Nutzende, das Schadenspotenzial, den psychologischen Einfluss von Präventionsinstrumenten, die Datensicherheit, die Gefahr der Stigmatisierung und vieles mehr. Die Kategorien dieser Überlegungen scheinen sich teilweise zu überschneiden, und ihre Auswirkungen zeigen sich auf verschiedenen Ebenen: individuell, gesellschaftlich und global. Es ist schwierig, ethische Leitlinien zu finden, die einen klaren und leicht zugänglichen Überblick zu den relevanten Überlegungen bieten.

Diese Komplexität motivierte Penelope, einen Ethiker von einer Universität zu kontaktieren, der bereit war diese Themen mit ihr zu diskutieren. Schnell fanden sie jedoch heraus, dass es zwischen ihnen eine große Kluft gab. Sie trafen sich mehrmals per Videokonferenz, um Gemeinsamkeiten und Möglichkeiten für eine künftige Zusammenarbeit zu diskutieren. Doch immer, wenn Penelope versuchte zu erklären, wie die App funktionieren würde, bemerkte sie, dass der Blick des Ethikers abgelenkt zur anderen Seite des Bildschirms wanderte. Christos, der Ethiker, ist ein eher abstrakt denkender Akademiker, der sich manchmal in seinen eigenen Sätzen verliert. Es gelang ihm oft nicht, Penelope praktische Konzepte und Ansätze zu vermitteln, die sie wirklich anwenden konnte. Weder Penelope noch Christos sind bereit, ihren Austausch aufzugeben. Es ist aber viel schwieriger als gedacht, die interdisziplinäre Kluft zu überbrücken und eine gemeinsame Sprache zu finden.

Fachwissen und Interdisziplinarität

Obwohl sich die Belange teilweise überschneiden, können die Entwicklung von Gesundheits-Apps und die Ethik von mHealth wie zwei verschiedene Welten wirken. Beide Gebiete benötigen spezielles Fachwissen, aber viele der technischen und ethischen Aspekte von mHealth sind für Personen außerhalb des jeweiligen Fachbereichs nicht immer klar oder überhaupt erkennbar. Wie genau Apps funktionieren und was dies für die Erhebung, Verarbeitung, Speicherung und mögliche Vermarktung von Daten bedeutet und welche Algorithmen sie verwenden, ist etwas, das die Entwickler*innen besser verstehen. Trotz der weit verbreiteten Vorstellung, dass ethisches Handeln nur einen “moralischen Kompass” erfordert, arbeitet die Ethik mit einer Vielzahl von Theorien, Konzepten und Ansätzen für die Umsetzung in die Praxis. Diese Theorien und die ethischen Fragen stammen meist aus bestimmten Teilen der Welt und können nicht immer in jedem soziokulturellen Kontext angewendet werden, was die Dinge verkompliziert, vor allem, wenn Apps international eingesetzt werden.

Ein großer Teil der Ethik im Bereich der digitalen Gesundheit befasst sich mit Datenschutz, informierter Entscheidung über Nutzerdaten und algorithmischer “Voreingenommenheit”. Nur ein kleiner Teil der Ethikarbeiten befasst sich tiefgreifend mit Fragen der Gerechtigkeit, wie algorithmenbasierter und gesundheitlicher Diskriminierung und Fragen der strukturellen und individuellen Verantwortung für Gesundheitsversorgung und den Ungerechtigkeiten, die sich ergeben können. Zu den Fragen gehört auch, welche Datensätze für die Apps verwenden, woher diese kommen, wie die Trainingsdaten gekennzeichnet wurden, welche Bevölkerungsgruppen diese Daten (nicht) repräsentieren und welche Auswirkungen sie auf individueller, sozialer und gesundheits-politischer Ebene haben. Wurden Apps beispielsweise mit den Gesundheitsdaten aller Bevölkerungsgruppen, die sie nutzen könnten, trainiert unter Berücksichtigung von Geschlecht, ethnischer Zugehörigkeit oder sozio-ökonomischem Hintergrund? Was ist, wenn der Ausschluss mancher Gruppen zu einer algorithmenbasierten Diskriminierung führt, indem die App diese Bevölkerungsgruppen über- oder fehldiagnostiziert? Was wäre, wenn ein zunehmend individualisiertes Konzept der Gesundheitsversorgung dazu führt, dass Errungenschaften im Bereich von Public Health und sozialen Determinanten von Gesundheit wieder in Vergessenheit geraten?

Zahlreiche empirische Belege haben inzwischen gezeigt, dass die algorithmische Diskriminierung typischerweise bereits marginalisierte Bevölkerungsgruppen betrifft, so dass man bei der Entwicklung einer App oder der Durchführung einer ethischen Analyse wirklich mit diesem Problem rechnen sollte. Aber welche Bevölkerungsgruppen sind in verschiedenen geografischen Kontexten am stärksten betroffen und wie lassen sich diese negativen Auswirkungen am besten abmildern? Können Apps auch auf in den Bereichen von öffentlicher Gesundheit, gesundheitlicher Chancengleichheit und sozialen Determinanten von Gesundheit einen sinnvollen Beitrag leisten? Wie sieht es mit den schädlichen Umweltauswirkungen der digitalen Gesundheit in einer Welt aus, die um die Eindämmung der globalen Erwärmung kämpft? Und wie kann man diese Faktoren abwägen, wenn einige von ihnen in einem Spannungsverhältnis zueinanderstehen? Dies sind keine einfachen Fragen, und eine gemeinsame und leichter zugängliche Sprache zu finden, um diese Schwierigkeiten anzugehen, wird ein guter Startpunkt für den weiteren Weg sein. Wenn App-Entwicklerinnen wie Penelope es versuchen möchten, Apps zu entwickeln, die ethische und gerechtigkeitsorientierte Ziele in den Vordergrund stellen, wird es auch notwendig sein, die Finanzierung sowie die gesundheitspolitische oder andere Unterstützung für solche Projekte zu verbessern. Viele Akteure und Interessenvertreter*innen sollten einbezogen werden, darunter auch die akademische Ethik.