Künstliche Intelligenz in der Medizin – Rechtsfragen zur Haftung

Die rechtliche Situation rund um die künstliche Intelligenz (KI) in der Schweiz ist noch wenig entwickelt. Es gibt kein Gesetz über künstliche Intelligenz als solches, und es existieren keine Bundesgerichtsentscheide zu Haftungsfragen, die KI betreffen.

Der Begriff «Künstliche Intelligenz» ist schwierig zu definieren. Das Problem beginnt schon bei der Definition von Intelligenz. Dies macht es noch schwieriger, Klarheit zu schaffen, wie es denn nun um die Haftung steht. KI könnte zum Beispiel als ein softwarebasiertes System definiert werden, das in der Lage ist, komplexe Probleme zu lösen, die früher nur dem Menschen vorbehalten waren.

Naturgemäss haben KI-basierte Systeme eine gewisse Fehleranfälligkeit, welche ihnen das autonome Lernen überhaupt erst ermöglicht. Dies kann jedoch auch zu Problemen führen, weshalb ein rechtlicher Rahmen notwendig ist. Da es beinahe keine Präzedenzfälle im Bereich der KI in der Medizin gibt, wird nun der folgende hypothetische Fall behandelt:

Ein Hausarzt benutzt eine neue Software zur Diagnose von Herzerkrankungen (aufgrund von EKG-Daten). Einer seiner Patienten, bei dem die Software zur Anwendung kam, verstirbt kurz nach der Konsultation an einem Herzinfarkt. Es stellt sich die Frage nach der Haftung. Zuerst fragen wir uns nach den Parteien. Einerseits haben wir den Patienten (bzw. die Angehörigen, die Klage erheben), andererseits den Arzt. Hinzu kommt jedoch noch eine dritte Partei, nämlich der Hersteller der KI.

Zuerst ist zu klären, ob eine Sorgfaltspflichtverletzung seitens des Arztes vorliegt. Gemäss dem SAMW-Leitfaden (1) kann ein Arzt dann gegen die Sorgfaltspflicht verstossen, wenn er die Regeln der ärztlichen Kunst nicht einhält oder die informierte Einwilligung des Patienten nicht einholt.
Angenommen, es gab einen Fehler in der Programmierung der KI. Dann fällt der Sachverhalt unter das Heilmittelgesetz bzw. das Produkthaftungsgesetz. Eine KI ist ein Medizinprodukt, da es gemäss Artikel 4 HMG wie folgt definiert ist:

Produkte, einschliesslich Instrumente, Apparate, Geräte, In-vitro-Diagnostika, Software, Implantate, Reagenzien, Materialien und andere Gegenstände oder Stoffe, die für die medizinische Verwendung bestimmt sind oder angepriesen werden und deren Hauptwirkung nicht durch ein Arzneimittel erreicht wird.

Im Schadenfall haftet gemäss Artikel 47 HMG die bevollmächtigte Person zusammen mit dem Hersteller solidarisch gegenüber der geschädigten Person. Der Bevollmächtigte wird durch den Hersteller ernannt, sofern dieser selbst keinen Sitz in der Schweiz hat. Der Hersteller haftet auch gemäss Produkthaftungsgesetz (PrHg), wenn ein fehlerhaftes Produkt dazu führt, dass eine Person getötet oder verletzt wird (Art. 1 PrHG). Das Problem ist jedoch, dass das PrHg auf herkömmliche Produkte zugeschnitten ist, die nach dem Inverkehrbringen nicht mehr verändert werden. Bei KI ist dies aufgrund des autonomen Lernens nicht der Fall. Daher wäre es sinnvoll, die KI selbst gesetzlich zu regeln.

Gemäss dem Obligationenrecht kann ein Kläger zudem einen Schaden geltend machen, wenn folgende Punkte erfüllt sind: ein Schaden, die Widerrechtlichkeit der Schadenszufügung, der (adäquate) Kausalzusammenhang, das unrechtmässige Verhalten des Schädigers sowie dessen Verschulden.

Bei einem Haftungsfall, der mit KI in Verbindung steht, kommt es immer stark auf die Details des Sachverhalts an bei der Frage nach der Haftung. Meiner Meinung nach ist die KI noch zu wenig gut in der Gesetzgebung verankert, und es ist schwierig zu entscheiden, wer letztendlich haftet.