Neue Studie zeigt Chancen, Risiken und politischen Handlungsbedarf beim Einsatz von KI.

Am 15. Oktober wurde im Ausschuss für öffentliche Gesundheit (SANT) des Europäischen Parlaments die Studie „The Use of Data in Public Health“ vorgestellt und diskutiert. Die im Auftrag des Ausschusses erstellte Studie befasst sich mit den Einsatzmöglichkeiten künstlicher Intelligenz (KI) im Gesundheitswesen, den damit verbundenen Chancen und Risiken sowie der Bedeutung von Gesundheitsdaten. Damit wurde die Nutzung von KI erstmals explizit im Gesundheitsausschuss beraten.

Chancen für die Gesundheitsversorgung

Die Studie zeigt, dass KI das Potenzial hat, die Gesundheitsversorgung zu verbessern und medizinisches Personal zu entlasten. Einsatzmöglichkeiten bestehen insbesondere in der Diagnostik, der Früherkennung von Erkrankungen und der bedarfsgerechten Behandlung von Patientinnen und Patienten.

So kann KI beispielsweise medizinische Bildaufnahmen auswerten, Veränderungen frühzeitig erkennen und dabei helfen, das Risiko für Erkrankungen wie Diabetes oder Herz-Kreislauf-Erkrankungen vorherzusagen. Darüber hinaus können KI-Anwendungen administrative Aufgaben wie die medizinische Dokumentation oder Terminplanung vereinfachen. Durch die Auswertung von Gesundheitsdaten lassen sich zudem mögliche Versorgungsbedarfe frühzeitig erkennen. Dies könnte helfen, medizinisches Personal und andere Ressourcen gezielter einzusetzen. Auch im Bereich der öffentlichen Gesundheit bietet KI Potenzial, etwa bei der Erkennung von Krankheitsausbrüchen oder der Analyse von Zusammenhängen zwischen Umweltfaktoren und Gesundheit.

Risiken und Herausforderungen beim Einsatz von KI

Trotz dieser Potenziale bestehen weiterhin Herausforderungen. Die tatsächliche Verbreitung von KI im europäischen Gesundheitswesen lässt sich aufgrund fehlender Daten nur schwer einschätzen. Zudem erschweren technische Probleme, beispielsweise die mangelnde Interoperabilität verschiedener IT-Systeme, und Zweifel an der Zuverlässigkeit der Anwendungen einen breiteren Einsatz.

Ein weiteres Risiko liegt in der Qualität der verwendeten Gesundheitsdaten. Werden bestimmte Bevölkerungsgruppen bei der Entwicklung von KI-Systemen unzureichend berücksichtigt, können fehlerhafte Ergebnisse entstehen und bestehende Ungleichheiten in der Gesundheitsversorgung verstärkt werden. Zudem können KI-Systeme falsche oder frei erfundene Ergebnisse liefern, die zunächst glaubwürdig erscheinen. Die Überprüfung durch medizinisches Fachpersonal bleibt daher entscheidend.

Auch die Frage der Verantwortung bei möglichen Behandlungsfehlern ist bislang nicht abschließend geklärt. Medizinisches Personal kann beim Einsatz unzuverlässiger KI-Systeme zusätzlichen Haftungsrisiken ausgesetzt sein. Die Studie weist außerdem darauf hin, dass eine zu starke Abhängigkeit von KI langfristig medizinische Kompetenzen beeinträchtigen könnte.

Gesundheitsdaten als Grundlage für KI

Eine wichtige Voraussetzung für die Entwicklung zuverlässiger KI-Systeme ist der Zugang zu hochwertigen und repräsentativen Gesundheitsdaten. Der Europäische Gesundheitsdatenraum (EHDS) soll die Weiterverwendung dieser Daten für Forschung, Innovation und gesundheitspolitische Entscheidungen erleichtern. Für diese sogenannte Sekundärnutzung sollen Gesundheitsdaten grundsätzlich anonymisiert bereitgestellt werden. Unter bestimmten Voraussetzungen können auch pseudonymisierte Daten in sicheren Verarbeitungsumgebungen genutzt werden.

Allerdings weist die Studie auf rechtliche Unsicherheiten beim Zusammenspiel der EHDS-Verordnung mit der Datenschutz-Grundverordnung (DSGVO), dem Data Governance Act und dem AI Act hin. So ist nicht immer eindeutig, unter welchen Voraussetzungen Gesundheitsdaten für wissenschaftliche Forschung genutzt werden dürfen, insbesondere wenn auch wirtschaftliche Interessen bestehen. Unterschiedliche nationale Auslegungen könnten zudem den grenzüberschreitenden Datenaustausch erschweren.

Empfehlungen der Studie

Um das Potenzial von KI im Gesundheitswesen besser auszuschöpfen, empfiehlt die Autorin klarere und EU-weit einheitlichere Regeln für die Nutzung von Gesundheitsdaten. Rechtliche Unsicherheiten und bürokratische Hürden sollen abgebaut werden, um den Datenaustausch und die freiwillige Bereitstellung von Daten für Forschungszwecke zu erleichtern.

Gleichzeitig betont die Studie die Bedeutung des Schutzes sensibler Patientendaten. Diese sollen vertraulich bleiben und vor unangemessener kommerzieller Verwertung geschützt werden. Patientinnen und Patienten sollen zudem über wichtige gesundheitliche Erkenntnisse aus der Auswertung ihrer Daten informiert werden können.

Für einen sicheren KI-Einsatz empfiehlt die Autorin gezielte Schulungen des medizinischen Personals sowie ein zentrales europäisches Verzeichnis geprüfter KI-Anwendungen. Dies soll dazu beitragen, KI-Ergebnisse besser zu überprüfen und zuverlässige Systeme leichter zu erkennen. Insgesamt soll sich der Einsatz von KI am tatsächlichen Nutzen für Patientinnen und Patienten, medizinisches Personal und die Gesellschaft orientieren.

Ausblick

In der anschließenden Aussprache äußerten mehrere Abgeordnete des SANT-Ausschusses vor allem Bedenken hinsichtlich der Zuverlässigkeit von KI-Ergebnissen, der Qualität von Gesundheitsdaten sowie möglicher Datenschutz- und Haftungsrisiken. Sie warnten insbesondere vor fehlerhaften Diagnosen und einem möglichen Verlust medizinischer Kompetenzen und betonten die Notwendigkeit menschlicher Kontrolle.

Mit der Vorstellung der Studie dürfte sich der Gesundheitsausschuss nicht zum letzten Mal mit dem Thema KI befasst haben. Denn die Studie verdeutlicht, wie komplex das Zusammenspiel der verschiedenen europäischen Rechtsvorschriften ist und welche regulatorischen Herausforderungen der Einsatz von KI im Gesundheitswesen mit sich bringt.