Sind Klinikärzte bereit, den Vorhersagen eines Algorithmus zu vertrauen?

Weltweit sieht man dem wegweisenden Potenzial künstlicher Intelligenz (KI) mit großen Erwartungen entgegen. Das gilt für nahezu jede Branche. Wir haben uns von Dr. Dominic King, Medical Director and Head of Product bei DeepMind Health, darüber auf den neuesten Stand bringen lassen. Das KI-Unternehmen arbeitet seit 2014 Hand in Hand mit Google.

Die Künstliche Intelligenz verändert derzeit eine Reihe von Branchen. Inwiefern hat sie Potenzial, auch das Gesundheitswesen zu transformieren?

Die Medien vergleichen künstliche Intelligenz (KI) gern mit "Elektrizität oder dem Internet" angesichts ihrer Fähigkeit, unterschiedlichste Branchen zu transformieren. KI hat das Interesse der Öffentlichkeit und der Regierungen auf der ganzen Welt geweckt, die Ideen über ihre Rolle und ihre Möglichkeiten für einen sicheren Einsatz in der Zukunft sammeln.

Bei DeepMind Health glauben wir, dass KI zu erheblichen Verbesserungen in allen Bereichen des Gesundheitswesens führen könnte. Medizin und Gesundheitsversorgung werden immer komplexer und neue Technologien haben das Potenzial, einige der damit verbundenen Probleme zu lösen. Wir haben mehr ältere und gebrechliche Patienten als je zuvor - gleichzeitig stehen uns immer mehr Daten zur Verfügung, welche die heutigen Systeme jedoch noch nicht effektiv nutzen können. KI ist sehr gut dafür geeignet, komplexe Daten zu verstehen und nützliche und präzise Vorhersagen zu treffen. Ich denke daher, dass sie für Klinikärzte eine unschätzbar wertvolle Hilfestellung sein kann und diese bei der Erbringung von spezialisierter Versorgung unterstützen könnte.

Wie wird KI die Rollen und Verantwortlichkeiten der Stakeholder verändern und wer wird den Wandel vorantreiben?

Viele Artikel thematisieren insbesondere die Bedrohung, dass KI Klinikärzte ersetzt. Ich glaube jedoch nicht, dass dies der Fall sein wird. Ich sehe die Aufgabe von KI vielmehr darin, Krankenschwestern, Ärzte und letztendlich auch die Patienten dabei zu unterstützen und zu befähigen, komplexe Entscheidungen zur Behandlung zu treffen.

Mit ihrer jahrelangen Erfahrung sind Klinikärzte darin geübt, den Kontext der Erkrankung eines Patienten zu begreifen. KI könnte dabei helfen, die Entscheidungsfindung zu unterstützen, indem sie dafür sorgt, dass nichts übersehen wurde.

Wie bewerten Sie ethische und datenschutzrechtliche Bedenken im Zusammenhang mit KI? Es gab vor kurzem ein Urteil eines britischen Gerichts, wonach das Royal Free Hospital in London DeepMind illegal Zugang zu 1,6 Millionen Patientenakten gewährt hatte. Wie geht DeepMind mit diesen Problemen und Anliegen um?

Patienten haben das absolute Recht zu wissen, wie und von wem ihre sensiblen Daten verarbeitet werden. Das Royal Free Hospital wurde von den britischen Behörden kritisiert, weil Patienten nicht wussten, wie ihre Daten verarbeitet werden. Wir haben aus dieser Erfahrung gelernt und tun zusammen mit unseren Partnern unser Bestes, um sicherzustellen, dass die Menschen verstehen, was wir tun und wie ihre Daten verarbeitet werden. In Großbritannien und anderen Ländern wird in breiter Öffentlichkeit darüber diskutiert, wie wir sicherstellen können, dass Patienten sehen können, wie ihre Daten verwendet werden und wie ihre Einwilligung eingeholt werden kann.

Was sind die derzeitigen Hindernisse bei der Umsetzung und Anwendung von KI in der Medizin? Wie lange wird es Ihrer Meinung nach dauern, bis der Gesundheitsbereich KI vollständig annimmt?

KI-basierte Ansätze sind für den klinischen Einsatz größtenteils noch nicht bereit. Es gibt noch viele Fragen zu beantworten, bevor dies der Fall sein wird. Eine davon ist beispielsweise "Wie können wir Klinikärzten die Möglichkeit geben, zu hinterfragen, was Algorithmen tun?"; eine weitere ist "Wie setzen wir diese Technologie so sicher ein, dass wir keinen Schaden anrichten?"

Auch gilt es die Fragestellung, wie wir zu einer öffentlichen Akzeptanz von KI im Gesundheitswesen gelangen, zu lösen. Sind Patienten bereit, Vorhersagen von einem Algorithmus anzunehmen? Sind Klinikärzte bereit, den Vorhersagen eines Algorithmus zu vertrauen? Die klare Botschaft, die wir von Klinikärzten und Patienten erhalten, ist, dass sie nicht einfach nur eine Blackbox wollen, die Vorhersagen oder Diagnosen sendet.

Es gibt zahlreiche Bereiche - vom wissenschaftlichen Fortschritt und der klinischen Anwendbarkeit über die Akzeptanz durch Ärzte und Patienten bis hin zu gesetzgeberischen, ethischen und informationstechnischen Fragestellungen - die alle gelöst werden müssen, bevor wir das breite Spektrum der Anwendung dieser Technologie sehen können.

###

Dr. Dominic King, Medical Director and Head of Product bei DeepMind Health, wird die Keynote “AI-enabled healthcare: potential and challenges” zur Eröffnung der HIMSS Impact18 halten, die vom 17. bis 18. Oktober 2018 in Potsdam stattfindet.

Weitere Informationen zu HIMSS Impact18 finden Sie unter: www.himssimpact.eu

Von der Prävention zur Prognose

HIMSS18 Nachlese

„Der Mediziner der Zukunft muss nicht zwangsläufig Arzt sein.“

Interview mit Martin U. Müller, Journalist beim SPIEGEL, der auf dem Swiss eHealth Summit in Bern als Dinner Speaker zu Gast sein wird.

Wir haben eine globale Verantwortlichkeit

Interview mit Christian Lovis von der Universität Genf und den Genfer Universitätskliniken anlässlich seiner Keynote auf dem Swiss eHealth Summit 2018