Das aktuelle Policy Briefing des German Israeli Health Forum for Artificial Intelligence (GIHF-AI) beleuchtet die Nutzung von KI in der Medizin mit Schwerpunkt auf ethische Grundsätze und deren Einfluss auf die Vertrauenswürdigkeit und Akzeptanz in der Bevölkerung. Neben den Ethik-Leitlinien der Europäischen Union zur KI werden Israels Ethik-Leitlinien zur Nutzung von KI in der Medizin sowie Use Cases vorgestellt.
Autorinnen: Elisabeth Liebert, Lea Ledwon
Die Vertrauenswürdigkeit einer KI ist wesentlich für ihre Akzeptanz in der Bevölkerung und ihren Einsatz in der Europäischen Union (EU). Daher soll jede in der EU verwendete KI europaweiten rechtlichen Regulierungen wie dem EU AI Act unterliegen. Aus ethischer Sicht ist dabei der Bezug auf die europäischen Grundwerte wichtig, denn die Anwendung einer KI darf sich nicht negativ auf diese Grundwerte auswirken. Vertrauen entsteht durch Transparenz und Leitlinien, auf die sich sowohl Anwenderinnen und Anwender als auch Entwicklerinnen und Entwickler berufen können.
Sowohl die Leitlinien der EU als auch die Leitlinien des Deutschen Ethikrates und der ZEKO beziehen sich auf ähnliche ethische Anforderungen. Bei allen stehen der Mensch und seine Autonomie im Mittelpunkt und alle fordern die kontinuierliche Qualitätskontrolle sowie die entsprechende Zertifizierung der eingesetzten KI-Systeme. Ein weiterer zentraler Aspekt ist die Eigenverantwortlichkeit des Menschen. Stets ist der Mensch letztverantwortlich und sollte die Ergebnisse des Systems kritisch mit seinem eigenen Wissen abgleichen. Ein adäquater Umgang mit den verwendeten Daten ist ebenfalls notwendig, wobei die Rahmenbedingungen durch den Gesetzgeber erlassen werden müssen. Weiterhin ist allen Leitlinien gemein, dass sie rechtlich nicht verpflichtend sind. Dies wirft die Frage auf, inwieweit kontextbedingtes ethisches Denken in allgemeine verbindliche Gesetze überführt werden kann und sollte. Auch die Ethikleitlinien Israels ebnen einen ähnlichen Weg, wenngleich das Thema Zertifizierung eine untergeordnete Rolle spielt und sie tendenziell flexibler und innovationsförderlicher sind.
Damit der Nutzen der KI in der Medizin und die Herausforderungen im Einsatz der neuen Technologie sich die Waage halten, ist ein Austausch auf internationaler Ebene vonnöten. Länder wie Israel, in denen die Anwendung bereits weiter fortgeschritten ist, können anhand ihrer Erfahrung zu einem konstruktiven Diskurs beitragen. Regulierung muss Risiken und Herausforderungen klar benennen, jedoch nicht den großen Nutzen für die medizinische Versorgung außer Acht lassen. Ethische Nutzung von KI beinhaltet vor allem auch, dass KI genutzt wird, wenn es die Behandlung verbessert.
