Fortbildung & Klinik I Ärzte-Haftpflichtversicherung

Unser Tipp

Lassen Sie Ihre

Haftpflichtversicherung

jetzt überprüfen und holen

Sie bei Ihrem Berater ein

unverbindliches

Angebot ein.

Rechtsfragen zum

digitalen Arzt

Die Entwicklung der künstlichen Intelligenz (KI) in der Medizin

schreitet rasch voran und viele Anwendungen sind bereits Teil der medizinischen Praxis. In diesem Zusammenhang ergibt sich auch

eine Reihe rechtlicher Fragestellungen.

FotoS: zvg

Die drei wichtigsten Bereiche betreffen das Datenschutz-, das Berufs- und das Haftungsrecht. Beim Thema Datenschutz geht es vor allem um die Entwicklung von KI-Systemen und den nachfolgenden Live-Einsatz im Krankenanstaltenum- feld. „Bei der Entwicklung und Forschung benötigt man Trainingsdaten, die zuvor generiert werden müssen. Hier stellen sich zum Beispiel Fragen wie ,Woher nimmt man die Daten und unter welchen Voraussetzungen darf man sie zu wissenschaft- lichen Forschungszwecken verarbeiten?‘ Soweit der Personenbezug aus den Trai- ningsdaten nicht entfernt werden kann, stellt sich die Frage, unter welchen Vor- aussetzungen diese im ‚Live-Betrieb‘ des Systems verarbeitet werden dürfen“, er- klärt Mag. Philipp Lukas Leitner, LL.B., Rechtsanwälte bei SCWP Schindhelm.

KI-Systeme weisen einen unterschiedlichen Grad an Autonomie auf: vom reinen Assistenzsystem bis hin zum „digitalen Arzt“, der vollständig unabhängig diagnos- tische und therapeutische Entscheidungen trifft. Das Berufsrecht legt jedoch fest, dass der Arzt seine Leistung persönlich und unmittelbar am Patienten zu erbrin- gen hat. „Es muss verhindert werden, dass durch die Anwendung eines KI-Sys- tems das Primat der unmittelbaren Berufsausübung durch den (menschlichen)

Arzt unterlaufen wird“, betont Leitner.


KI-spezifisches Haftungsrecht fehlt

Die Herausforderung im Bereich des Haftungsrechts liegt darin, dass KI-Systeme zunehmend zur Durchführung jener Tätigkeiten herangezogen werden, für die nach dem Ärztegesetz eigentlich der Arzt zuständig ist und die diesem vorbehalten sind. „Je selbstständiger diese Systeme sind, desto eher stellt sich die Frage, ob der Anwender für einen Schaden überhaupt haftbar gemacht werden kann. Interessant wird die Haftungsfrage in Fällen, in denen KI und Arzt über die Behandlung eines Patienten unterschiedlich entscheiden würden“, erläutert Mag. Michaela Nill, LL.M., Rechtsanwältin bei SCWP Schindhelm. Auch wenn die Anwendungen zunehmend häufiger in der Praxis zum Einsatz kommen, existiert bislang kein KI-spezifisches Haftungsrecht.


Auf dem Weg zur „elektronischen“ Person

Der Arzt ist nach dem Ärztegesetz grundsätzlich zur persönlichen und unmittelbaren Berufsausübung verpflichtet. Die Hauptpflichten, die sich aus dem Behandlungsvertrag ergeben, bestehen in der Untersuchung, Diagnostik sowie der notwendigen Therapie. Hinzu kommt auch, dass das Ärz- tegesetz ausdrücklich jene Tätigkeiten vorgibt, die nur von Ärzten durchgeführt werden dürfen – den sogenannten „Arztvorbehalt“. „Wenn KI-Sys- teme zunehmend für die Durchführung jener Tätigkeiten herangezogen werden, die ein Arzt zu erbringen hätte, nehmen sie auf die Behandlung der Patienten großen Einfluss. Nach der derzeitigen gesetzlichen Lage ist es jedenfalls unzulässig, dass die gesamte ärztliche Behandlung auf KI- Einheiten ausgelagert werden würde. Der Arzt hat die Plausibilität des Ergebnisses eines KI-Systems jedenfalls zu überprüfen und allenfalls zu ver- werfen“, sagt Nill.

Nach dem klassischen Arzthaftungsrecht wird ein Verschulden vorausgesetzt, das bei einem KI-System nicht vorliegen kann. Die gängige Rechts- meinung ist, dass demzufolge die Haftung beim Vertragspartner liegt, also beim Arzt oder bei der Krankenanstalt. In der Literatur werden derzeit vereinzelt Ansätze vertreten, solche Fälle nach dem Produkthaftungsgesetz oder einer Gefährdungshaftung zu beurteilen, um so eine verschul- densunabhängige Haftung für KI-Systeme zu kreieren. Das Europäische Parlament hat in diesem Zusammenhang bereits 2017 erwogen, neben der natürlichen und der juristischen Person einen speziellen rechtlichen Status für KI zu schaffen: die elektronische Person.