Förderung von vertrauenswürdiger KI in der Sozialversicherung
ed* Nr. 02/2024 – Kapitel 6
Während Transparenz, Vertrauen und Akzeptanz die Grundlage für eine stärkere Nutzung von KI-Systemen insgesamt sind, stellt sich gerade im Bereich der Sozialversicherung die schwierige Aufgabe, einerseits von den Möglichkeiten von KI-Systemen auch um der Versicherten willen profitieren zu wollen. Doch andererseits dürfen ethische Fragen nicht aus dem Blick verloren und keine Entscheidungen, die Menschen direkt betreffen, an möglicherweise vorurteilsbehaftete KI-Systeme abgegeben werden. Dieser Herausforderung kann durch bestimmte Vorkehrungen begegnet werden.
Um beispielsweise zu verhindern, dass Menschen in Entscheidungspositionen ein übermäßiges Vertrauen in automatisierte Hilfsmittel entwickeln, könnten Ausgaben von KI-Systemen mit Zufallsausgaben alterniert werden, um sicherzustellen, dass Entscheiderinnen und Entscheider eine kritische Denkweise beibehalten und KI-Entscheidungen nicht unreflektiert übernehmen. Eine andere Idee sind KI-Assistenten, die so entwickelt werden, dass sie basierend auf einer umfangreichen Datenbank keine Antworten geben, sondern vielmehr Fragen stellen. So soll Mitarbeiterinnen und Mitarbeitern geholfen werden, selbst angemessene Entscheidungen zu treffen.
Aus diesen beiden Beispielen lässt sich ableiten, dass Menschen von KI-Systemen zwar auf ihrem Weg zur Entscheidungsfindung von KI-Systemen unterstützt werden können. Letztlich müssen sie die Entscheidungen aber selbst treffen, um die menschliche Kontrolle über die KI, Verantwortlichkeit und Rechenschaftspflicht sicherzustellen. Auch das kann zu einer größeren Akzeptanz von KI-Anwendungen in der Bevölkerung beitragen.
Wie kann die EU unterstützen?
Die EU kann trotz mangelnder Kompetenz im Bereich der sozialen Sicherheit den Einsatz von KI in der Sozialversicherung fördern. Denn die Herausforderung, vertrauenswürdige und passgenaue KI-Systeme gewinnbringend sowohl für die Versicherten als auch die Sozialversicherungsträger zu nutzen, stellt sich überall in Europa. Vor diesem Hintergrund kann die EU vor allem eine Plattform bieten, um länderübergreifende Zusammenarbeit zu fördern, Anwendungsfälle zu sammeln und den Austausch guter Praktiken zu stärken. So können Herausforderungen und Lösungsansätze zusammengetragen werden, um Ressourcen zu bündeln und doppelte Arbeit zu vermeiden. Gleichzeitig kann die EU in einer koordinierenden Rolle technische Unterstützung anbieten, ohne dabei Vorgaben zur Umsetzung von KI-Lösungen vorzuschreiben. Ein einheitlicher Ansatz zur Anwendung von KI-Systemen in der sozialen Sicherheit kann auch mit Blick auf Interoperabilität sinnvoll sein, insbesondere angesichts des zunehmenden Bedarfs an länderübergreifendem Datenaustausch und der Koordinierung sozialer Sicherheitssysteme.
KI hat das Potenzial, unsere Arbeitsweise und unser Leben zu verändern. Sie verspricht enorme Vorteile für die Bürgerinnen und Bürger, unsere Gesellschaft und die europäische Wirtschaft. Beim europäischen Herangehen an die Technologie stehen die Menschen an erster Stelle, und wir sorgen dafür, dass die Rechte aller gewahrt werden.
Eine andere Möglichkeit der Unterstützung kann darin bestehen, gemeinsame Datenbasen für das Training von KI-Modellen bereitzustellen. Gerade kleinen Ländern steht möglicherweise nur eine begrenzte Menge nicht-repräsentativer Daten zur Verfügung, was leicht zu Verzerrungen führen kann. Doch auch insgesamt kann die Verknüpfung und gemeinsame Nutzung großer Mengen Routinedaten aus verschiedenen Bereichen der Sozialversicherung über Ländergrenzen hinaus die Qualität von beispielsweise Vorhersagen zu potenziellen künftigen Versicherungsfällen erheblich verbessern.
Des Weiteren kann die EU basierend auf der Zusammenarbeit zwischen den jeweils verantwortlichen Akteuren in den Mitgliedstaaten gemeinsame grundlegende Prinzipien und Ziele festlegen. Dazu kann zählen, dass beim Einsatz von KI menschliche Aufsicht und Rechenschaftspflicht – wie sie die Plattformrichtlinie für den Einsatz algorithmischen Managements festlegt – gewährleitet sein müssen. So kann die EU eine wichtige Rolle spielen, um sicherzustellen, dass in den Mitgliedstaaten KI-Systeme eingesetzt werden, die ethischen Grundsätzen genügen.