Wir haben eine globale Verantwortlichkeit

Im Vorfeld des Swiss eHealth Summits in Bern (11. und 12. September 2018) sprach 42.News mit Keynote Sprecher Christian Lovis, Arzt und Professor für Klinische Informatik an der Universität Genf und Vorsitzender der Fakultät für Medizinische Informationswissenschaften der Genfer Universitätskliniken. Er wirbt um eine ausgewogene Darstellung von Themen, für einen neuen Gesellschaftsvertrag zur Datennutzung und einen offenen Zugang zur Wissenschaft. Dies beinhaltet auch einen freien Zugang zu den Algorithmen, um dadurch grössere Transparenz zu ermöglichen. Er appelliert an die globale Verantwortlichkeit unseres Handelns, insbesondere die der Wissenschaft.

Können Sie uns schon jetzt einen Vorgeschmack auf Ihre Keynote beim Swiss eHealth Summit geben?

Eines der zentralen Themen meiner Keynote ist die Auseinandersetzung mit dem Hype, der um Themen wie Blockchain, Privacy, Big Data, Künstliche Intelligenz (KI) von allen Seiten aufgebaut wird. Dabei gibt es einen riesigen Abstand zwischen Hype und Realität. Auch ich bediene mich der Hype, wie beispielsweise im Titel meines Vortrages „Health Informatics: Rebooting“, um Zuhörer für meine Keynote einzunehmen, aber es ist sehr wichtig einen angemessenen Realitätssinn zu wahren, insbesondere beim Kommunizieren, damit man weder unerfüllbare Hoffnungen noch ungeahnte Widerstände schürt.

Bei meiner Keynote werde ich die Rolle der Wissenschaft ins Auge nehmen. Die erste Fake News der Welt kam von der Wissenschaft, nicht von einem sehr bekannten Präsidenten. Durch das Publizieren von nicht reproduzierbaren Studien1 hat sich die Wissenschaft zu einer wesentlichen Quelle von Fake News entwickelt. Fünfzig Prozent der klinischen Publikationen sind nicht reproduzierbar. Nehmen wir zum Beispiel eine dieses Jahr bei der 2018 Association for the Advancement of Artificial Intelligence vorgestellte Studie2. Diese fand heraus, dass von 400 untersuchten Veröffentlichungen zu KI, nur 30 Prozent die von ihnen verwendeten Daten anderen Forschern zur Verfügung stellen, sodass diese die Berechnungen nachvollziehen können. Das heisst, dass in nur 30 Prozent der Fälle die Aussagen dieser Veröffentlichungen überhaupt reproduzierbar sind. Noch schlimmer ist, dass in lediglich sechs Prozent der Publikationen die verwendeten Algorithmen offengelegt werden. Heute geht die grosse Diskussion um Daten, aber eine noch grössere Diskussion sollte sich um die Algorithmen drehen, mit denen diese Daten bearbeitet werden. Jedoch steht diese Forderung nach Transparenz im Konflikt mit dem Recht auf geistiges Eigentum: Denn kann ein Wissenschaftler den von ihm entwickelten Algorithmus anderen zur Verfügung stellen, ohne dass seine IP-Rechte verletzt werden?

Was bedeutet dies konkret?

Lassen Sie mich das noch mal am Beispiel der KI illustrieren: Der grösste Teil, das heisst in diesem Fall mehr als 90 Prozent, der wissenschaftlichen Veröffentlichungen zu KI sind nicht reproduzierbar, das heisst nicht kontrollierbar. Das ist eine echte Herausforderung. Denken Sie an den Vorfall, als ein mit einem Autopiloten ausgestattetes Fahrzeug eine Passantin tötete, obwohl er diese optisch wahrnehmen konnte. Wir verstehen nicht, wie das passieren konnte, da der Autopilot selbst so geschützt ist, dass man nicht verstehen kann, nach welchen Regeln er Entscheidungen trifft.

In meiner Keynote werde ich auch die mangelnde Zukunftsfähigkeit unserer Gesundheitssysteme ansprechen, da wir eine Gesellschaft sind, die immense menschliche und finanzielle Ressourcen für Gesundheit aufwendet. Wir setzen auch riesige Denkressourcen ein, beispielsweise, wenn es um die Auswahl der Forschungsfragen geht, in die wir investieren. Aber in unseren Gesundheits- und Pflegesystemen geht oft der grösste Teil der Investitionen in einen kleinen Teil der Gesellschaft. In meiner Keynote werden ich darauf eingehen, was dies für die Zukunft bedeutet.

Sie werden auf dem Summit darauf eingehen, dass bei der Digitalisierungsdebatte „Erfolge aufgebläht und Misserfolge kaschiert werden“. Was meinen Sie damit?

Wie eben schon angedeutet, spricht man viel über Erfolge, aber wenig über Misserfolge. Man spricht viel über alles, was schön ist, aber niemand spricht darüber, was nicht funktioniert. Es gibt keine ausgewogene Darstellung, die positiven Aspekte werden aufgebläht und dabei sollte man über beide Seiten sprechen.

Welche Erwartungen haben Sie an den Swiss eHealth Summit im September?

Es ist wichtig, dass wir eine Community bauen, die wächst und gemeinsame Werte teilt. Diese sollten dann auch in unsere Forschung, unsere Beziehungen und Gespräche einfliessen. Sofern sich diese Werte aber nur um Technologie drehten, hätte die Community für mich keinen Wert. Wenn wir aber über eine gewisse Klarheit verfügen, etwas verbessern zu wollen, wissen wir, dass Technologie zwar nicht die Antwort ist, vielleicht aber ein Teil davon.

Wir haben eine globale Verantwortlichkeit. Ich versuche das Bewusstsein in der Community dafür zu schärfen, wissenschaftlich zu handeln. Dafür brauchen wir Fakten und Beweise. Dies ist ein langsamer Prozess und wir müssen unsere Werkzeuge testen, bevor wir sie breit einsetzen.

###

1Dies können Sie beispielsweise an den folgenden Quellen nachvollziehen: PMID: 29449469 zum Thema KI, PMID: 29531051 in Bezug auf die Wissenschaft und PMID: 29961058 als ein Exempel, wie eine Fachzeitschrift mit dem Vorwurf wissenschaftlichen Fehlverhaltens umgeht.
2http://www.sciencemag.org/news/2018/02/missing-data-hinder-replication-artificial-intelligence-studies und doi:10.1126/science.aat3298

###

Weitere Informationen zum Swiss eHealth Summit erhalten Sie unter: www.ehealthsummit.ch

Von der Prävention zur Prognose

HIMSS18 Nachlese

Sind Klinikärzte bereit, den Vorhersagen eines Algorithmus zu vertrauen?

Interview mit Dr. Dominic King von DeepMind Health anlässlich seiner Keynote „AI-enabled healthcare“ auf der HIMSS Impact18

„Der Mediziner der Zukunft muss nicht zwangsläufig Arzt sein.“

Interview mit Martin U. Müller, Journalist beim SPIEGEL, der auf dem Swiss eHealth Summit in Bern als Dinner Speaker zu Gast sein wird.