Künstliche Intelligenz kann nie den Arzt als „letzte Instanz“ ersetzen

Der Einsatz von auf Künstlicher Intelligenz basierenden Algorithmen im Gesundheitswesen wirft auch aus rechtlicher Sicht viele Frage auf. Wie steht es beispielsweise um den Arztvorbehalt, den Grundsatz der persönlichen Leistungserbringung oder die Frage der Haftung?

Mit dem „kleinen Doktor“ Xiaoyi, hat in China im vergangenen November erstmals ein mit Künstlicher Intelligenz (KI) gefütterter humanoider Roboter die Prüfung zum Arzt abgelegt. Anlass für Karolina Lange und Jana Hammesfahr von der internationalen Kanzlei Taylor Wessing sich unter juristischen Gesichtspunkten mit der Frage auseinanderzusetzen, ob dies auch eine Blaupause für die Zukunft der ärztlichen Versorgung in Deutschland sein könne.

Dr. Xiaoyiist ein medizinisches Universallexikon

Zur Prüfungsvorbereitung hat sich Xiaoyi rund eine Million medizinische Bilder, 53 medizinische Fachbücher, zwei Millionen medizinischer Akten 400.000 medizinische Fachartikel sowie Berichte einverleibt. Er hat bewiesen, dass er über das erforderliche medizinische Fachwissen verfügt, als lizenzierter Arzt in China zu praktizieren. Und dies sogar mit überdurchschnittlichem Erfolg. Das Unternehmen IFlyTek, das Xiaoyi entwickelt und realisiert hat, plant, den kleinen Doktor bald auf den Markt zu bringen. Dies ist ganz im Sinne des chinesischen Masterplans 2025, der vorsieht, dass KI künftig auch im Gesundheitswesen stärker eingebunden werden soll.

Lange und Hammesfahr weisen darauf hin, dass KI auch im deutschen Gesundheitswesen zum Einsatz kommt: „Schon heute assistieren Roboter im OP bei hochkomplexen Eingriffen mit höchster Präzision, im Labor werden Blut und Gewebeproben voll automatisiert untersucht, und auf einer Station im Krankenhaus überwacht ein Robotersystem die Medikamentengabe oder die Vitalfunktionen des Patienten“, schildern sie. Und sie verweisen auch darauf, dass „KI die Qualität von Ärzten erreichen oder sogar übersteigen“ kann. Dies wird dadurch erreicht werden, dass KI nicht nicht nur vorhandene Informationen verarbeite, sondern sogar darüber hinaus noch innerhalb kürzester Zeit hinzulerne. „Ob Gehirntumor oder Darmpolyp, selbstlernende KI-Algorithmen werden bereits heute zur frühzeitigen Erkennung von Tumoren oder Auswertung von Röntgenaufnahmen eingesetzt“, illustrieren Lange und Hammesfahr das Einsatzgebiet von KI. 

Das Superhirn, das nie vergisst

Gespeist wird KI durch die rasant steigenden Mengen an Daten in digitalem Format, Big Data. Durch die Verwendung von Algorithmen „entsteht ein „künstliches Superhirn“, das nicht nur mit einer erstaunlichen Genauigkeit innerhalb von wenigen Sekunden eine möglichst genaue Diagnose mit entsprechendem Therapievorschlag stellt, sondern vor allem – im Gegensatz zu einem menschlichen Gehirn – niemals vergisst“, erläutern Lange und Hammesfahr.

Arztvorbehalt versus Roboter

Noch wird der kleine Doktor nicht in Deutschland behandeln können, so ein Fazit von Lange und Hammesfahr, denn bestimmte Maßnahmen dürften derzeit ausschließlich von Ärzten durchgeführt werden. „Für die Ausübung der ärztlichen Heilkunde ist zwingend eine ärztliche Approbation erforderlich. Dieser Arztvorbehalt gilt für solche Leistungen, welche zur Beherrschung und Behandlung gesundheitlicher Gefährdungen ärztliche Fachkenntnisse erfordern. Daher ist derzeit der Einsatz von Software, die diesen Arztvorbehalt umgeht, noch besonderen Modellvorhaben vorbehalten“, stellen sie klar. 

KI erfordert auch Neuregelungen strafrechtlicher Vorschriften

Die Autorinnen beleuchten noch andere Aspekte, die im Lichte des Einsatzes von KI überdacht werden müssen, beispielsweise den Grundsatz der persönlichen Leistungserbringung, „welcher eines der wesentlichen Merkmale der ärztlichen Tätigkeit bildet. Diese ist vor allem durch einen persönlichen Arzt-Patienten-Kontakt geprägt. In Grenzen ist es dem Arzt zwar möglich, Leistungen zu delegieren. Jedoch muss der Arzt dann höchstpersönlich tätig werden, wenn die Schwierigkeit, Gefährlichkeit oder Unvorhersehbarkeit den Einsatz seiner spezifischen Fachkenntnisse erforderlich machen“, erläuterten die beiden Mitarbeiterinnen von Taylor Wessing.

Außerdem setzte das Vergütungssystem der Krankenkassen eine ärztliche Leistung voraus. Hier stellt sich die Frage, ob eine von einer Software bzw. einem KI-Roboter erbrachte Behandlungsleistung vergütet werden kann. 

Abschließend beleuchten Lange und Hammesfahr die Frage der Haftung beim Einsatz von KI: „Handelt es sich um einen Bedienungsfehler des Krankenhauspersonals oder ist es Organisationsverschulden des Krankenhauses, wenn jemand zu Schaden kommt? Nach derzeitigem Stand der hierzu geführten politisch-juristischen Diskussionen soll die Verantwortung in erster Linie beim Menschen beziehungsweise dem Anwender bleiben und nicht beim Roboter oder bei dessen KI-Algorithmus respektive dessen Hersteller liegen“, verweisen die Autorinnen. Sie betonen auch, dass die technologische Entwicklung in jedem Falle eine Neuregelung von Haftungsfragen und Versicherungsmodellen erforderlich mache. Auch fragen sie nach der Einhaltung der ärztlichen Schweigepflicht bei KI-Anwendung, denn in der Vergangenheit hatte das strafrechtlich geschützte Berufsgeheimnis den Einsatz von Softwarelösungen, die Patientendaten an Dritte übermitteln, erschwert.

Sie schließen mit einem Ausblick auf die Rolle von KI: „KI kann die ärztliche Tätigkeit in gewissen Bereichen unterstützen, aber nie den Arzt als „letzte Instanz“ ersetzen. Das Vertrauen in den behandelnden Arzt und die zwischenmenschliche Beziehung zwischen Arzt und Patient dürfen in ihrem Einfluss auf den Therapieerfolg nicht unterschätzt werden. Gezielt eingesetzte KI kann infolge von Effizienzsteigerung vielmehr zu einer Entlastung der Ärzte führen.“

###

cwm

David und Goliath

Ohne künstliche Intelligenz und Datenanalyse nicht wettbewerbsfähig?

„hub“ für Digitale Gesundheit

Neu geschaffene Professur für Digitale Gesundheit besetzt

Vorsprung durch Technik?

Bitkomstudie: Im einstigen Vorzeigeland des technischen Fortschritts scheint dieser ins Stocken geraten zu sein