Die Europäische Kommission hat im Februar eine Debatte zu einem sicheren und verantwortungsvollen Umgang mit Künstlicher Intelligenz eingeleitet. In ihrem Weißbuch spricht sie sich für einen „kla­ren euro­päi­schen Regu­lie­rungs­rah­men“ aus, unter ande­rem zum Schutz der Bür­ger- und Grund­rechte, ein­schließ­lich Daten­schutz, Schutz der Pri­vat­sphäre, Nicht­dis­kri­mi­nie­rung und Ver­brau­cher­schutz. 

Die Spitzenorganisationen der deutschen Sozialversicherung beteiligten sich mit einer Stellungnahme an der Konsultation. Sie weisen darauf hin, dass bei der Entwicklung und dem Einsatz künstlicher Intelligenz großes Potential in einem europäischen Erfahrungsaustausch besteht. Soweit die Sozialversicherung und die durch sie finanzierten Leistungen betroffen sind, bringt allerdings eine Ergänzung ohnehin schon sehr allgemeiner Rechtsgrundsätze durch eine ebenfalls sehr allgemein gehaltene „Anpassung des bestehenden EU-Rechtsrahmens unter Berücksichtigung von KI“ keine zusätzliche Rechtssicherheit und keinen Mehrwert. Dies schließt allerdings nicht aus, sobald mehr Erfahrungen vorliegen, bestimmte einzelne Vorschriften zu überprüfen.

Gerade was den Einsatz im Verwaltungsbereich der Sozialversicherung angeht, stehen die Überlegungen über einen potentiellen Einsatz von KI noch ganz am Anfang. Daher bestehen hierzulande auch noch keine Erfahrungen im Umgang mit dem Gebot von Transparenz, Nichtdiskriminierung und Letztentscheidung durch den Menschen beim Einsatz von KI. Oft wird sich zeigen, dass grundlegende Probleme auch schon im Vorfeld und unabhängig von der Nutzung von KI bestehen, sogar unabhängig vom Einsatz von algorithmischen Systemen. Dies wird bei der Betrachtung erster Erfahrungen öffentlicher Verwaltungen im Umgang mit KI und automatischen Entscheidungssystemen im (nicht nur europäischen) Ausland deutlich. Daher könnte eine Diskussion über einen verantwortungsvollen Umgang mit KI auf europäischer Ebene sehr wichtige Hinweise auch für die nun in Fahrt kommende deutsche Diskussion geben.

Vor allem im Gesundheitssektor liegt, so die Position der Spitzenorganisationen der deutschen Sozialversicherung, im Einsatz von KI und einer entsprechenden europäischen Zusammenarbeit großes Potenzial für die Verbesserung der Versorgung. In diesem Zusammenhang ist auch eine umfassende Datennutzung notwendig, einschließlich der Nutzung von Gesundheitsdaten, die im Rahmen der Erbringung von Leistungen durch die gesetzliche Krankenversicherung anfallen oder die von ihr finanziert werden. Dies schließt ihre Nutzung zum Training und Lernen von KI-Algorithmen ein, soweit dies z.B. der Verbesserung der Qualität der Versorgung oder Forschungszwecken dient.

Vorsicht ist dagegen dort geboten, wo es um Daten geht, die nicht nur naturwissenschaftlich beobachtbare Fakten betreffen, sondern darüber hinaus eine rechtliche Ableitung beinhalten, z.B. bei der Frage, ob eine Berufskrankheit oder ein Arbeitsunfall vorliegt. Eine unmittelbare Vergleichbarkeit derartiger Daten ist hier nicht gegeben und es muss zunächst geprüft werden, ob eine Methodik zur Herstellung der Vergleichbarkeit entwickelt werden kann.