Anwendung von KI
ed* Nr. 02/2024 – Kapitel 3
Anwendung von KI in der Sozialversicherung
Insgesamt betrachtet wirkt sich die rasche (Weiter-) Entwicklung von KI in zweifacher Hinsicht auf die Sozialversicherung aus. Die eine Seite der Medaille sind KI-basierte Anwendungen, die die Sozialversicherungsträger selbst nutzen. In diesem Zusammenhang sind aktuell zumeist noch eher einfache Anwendungen wie solche zur Erleichterung interner Abläufe, der Kommunikation mit den Versicherten oder Betrugserkennung zu nennen. Diese eröffnen einerseits für Versicherte neue Möglichkeiten, andererseits können KI-Systeme auch für die Mitarbeitenden Stress reduzieren und somit zu einer besseren Gesundheit am Arbeitsplatz beitragen. Durch diesen Einsatz von KI-Systemen ergeben sich unmittelbare Pflichten durch das KI-Gesetz: Als Betreiber von KI-Systemen in eigener Verantwortung müssen die Sozialversicherungsträger die von ihnen genutzten KI-Anwendungen klassifizieren und die sie betreffenden Vorschriften des KI-Gesetzes umsetzen.
Die zweite Seite der Medaille ist der Einsatz von KI am Arbeitsplatz oder im Gesundheitsbereich. Hier sind die Sozialversicherungsträger keine Betreiber der KI-Systeme, es ergibt sich also keine direkte Handlungsanweisung aus dem KI-Gesetz. Nichtsdestotrotz haben in diesen Bereichen genutzte KI-Systeme Implikationen für die Sozialversicherung, da sie sich auf beispielsweise den Arbeitsschutz oder die Qualität der medizinischen Versorgung der Versicherten auswirken, was sich wiederum in etwaigen Leistungsansprüchen niederschlägt. Deshalb sind KI-Anwendungen in diesen für die Sozialversicherung relevanten Bereichen genau zu prüfen und nur dann zu unterstützen, wenn dadurch ein besserer Arbeitsschutz und bessere Dienstleistungen für Versicherte erwirkt werden können.
KI in der gesetzlichen Krankenversicherung
Bisher werden in der gesetzlichen Krankenversicherung eher wenige KI-Projekte umgesetzt. Doch Potenziale gibt es, zum Beispiel im Bereich der Nutzung von Gesundheitsdaten, die der Krankenversicherung durch die Erbringung oder Finanzierung von Leistungen vorliegen. Sofern Datenschutz und Datensicherheit gewährleistet sind, könnten diese Daten unter anderem dafür genutzt werden, künftige Versorgungsbedarfe festzulegen, Gesundheitsangebote zu individualisieren und Versorgungsstrukturen zu verbessern.
In diese Richtung geht zum Beispiel das vom Innovationsfonds geförderte Forschungsprojekt „KI-THRUST“, das basierend auf Routinedaten der gesetzlichen Krankenversicherung darauf abzielt, Krankheits- und Therapieverläufe individuell vorherzusagen und damit Versorgungsbedarfe von Patientinnen und Patienten früher und besser zu erkennen.1 Während die Gesundheits- und Versorgungsforschung bisher meist auf klassische Analysetechniken zurückgreift, untersucht KI-THRUST die Potenziale von KI-gestützten Vorhersageverfahren und vergleicht die Ergebnisse mit denen herkömmlicher Verfahren. Im Laufe des Projekts wird erprobt, inwiefern KI-Verfahren bestimmte Erfordernisse und Schwierigkeiten nach Entlassungen aus Krankenhäusern vorhersagen können. Basis hierfür sind Datensätze von mehr als zwei Millionen Krankenhausentlassungen.
Im Gegensatz zu den noch eher wenigen KI-Anwendungen durch die Träger der Sozialversicherung ist der Einsatz von KI im Gesundheitswesen, der sich mittelbar auf die Krankenkassen auswirkt, vielfältig. Durch eine frühere Erkennung von Krankheiten oder bessere Versorgung und Entlastung von medizinischem Fachpersonal können Gesundheitsausgaben und damit die Belastung der Krankenkassen entscheidend gesenkt werden. Der Einsatz von KI reicht von der medizinischen Diagnostik über die Medikamentenentwicklung bis zum Daten- und Prozessmanagement in Krankenhäusern und Arztpraxen, um nur einige Anwendungsfelder zu nennen. Medizinisches Fachpersonal sowie Patientinnen und Patienten werden zunehmend durch KI-Systeme unterstützt, letztere durch individualisierte Therapie und Nachsorge zu Hause. Dagegen bauen optimierte Gesundheitsangebote auf die digitale Vernetzung von Patientendaten, öffentlichen Gesundheitsdaten und Daten aus Gesundheits-Apps und Smart Wearables (beispielsweise Fitness-Uhren). Besonders weit entwickelt ist KI im Bereich der Auswertung medizinischer Bildaufnahmen in Kombination mit Datenanalysen von Krankengeschichten, um beispielsweise Krankheits- und Therapieverläufe individuell vorherzusagen. Im Bereich der Rehabilitation dagegen können KI-Systeme Menschen mit eingeschränkter Mobilität bei der Bewegungstherapie bedarfsgerecht – das heißt an den individuellen Fähigkeiten und Bedürfnissen der Menschen orientiert – unterstützen.
KI in der gesetzlichen Unfallversicherung
Auch die Träger der Unfallversicherung nutzen bereits KI, so etwa zur automatisierten bedarfs- und risikoorientierten Auswahl derjenigen Betriebe, die angesichts ihres Unfallgeschehens besucht und beraten werden sollen. Dies dient dem Ziel, Präventionsmaßnahmen zur Verhütung von Unfällen und Berufskrankheiten zu entwickeln. Dieser Methode bediente sich zum Beispiel die Berufsgenossenschaft der Bauwirtschaft (BG BAU) im Rahmen eines von Februar 2023 bis Mai 2024 laufenden Leuchtturm-Projekts „KI-basierte Unterstützung zielgenauer Unfallprävention“. Auch die Berufsgenossenschaft Energie Textil Elektro Medienerzeugnisse (BG ETEM) nutzt KI zur Auswahl der Betriebe, zu denen Aufsichtspersonen geschickt werden. Betriebsbesichtigungen als eine von zehn Präventionsleistungen der BG ETEM sollen vor allem durchgeführt werden, wenn das Risiko eines Betriebs als hoch eingeschätzt wird – auch um personelle Ressourcen zu schonen. Bei der Risikoeinschätzung und damit der Betriebsauswahl hilft ein Algorithmus zur Vorhersage von Schadensereignissen, indem einzelne Kennzahlen auf Basis des Unfall- und Berufskrankheiten-Geschehens und anderer Präventionsdaten miteinander in Bezug gesetzt werden. Der Algorithmus leitet allerdings keine konkreten betriebsbezogenen Präventionsmaßnahmen ab; diese müssen weiterhin von den Aufsichtspersonen erkannt beziehungsweise entwickelt werden.
Doch nicht nur von den Trägern selbst eingesetzte KI-Systeme sind für den Bereich der gesetzlichen Unfallversicherung relevant. Auch der Einsatz von KI am Arbeitsplatz spielt aus der Arbeitsschutzperspektive eine große Rolle. So erweitert KI die Möglichkeiten technischer Unfallprävention in Form von innovativen Assistenz- und Schutzfunktionen. Gleichzeitig können KI-Systeme die physische und psychische Belastung von Beschäftigten beeinflussen. Ein prominentes Beispiel ist algorithmisches Management am Arbeitsplatz, das auf EU-Ebene erstmalig und wegweisend durch die Plattformrichtlinie reguliert wurde.2 Einerseits können durch algorithmisches Management Aufgaben und Prozesse besser gesteuert werden, was zu einer Verbesserung der Arbeitsbedingungen durch unter anderem Unfallprävention und Stressabbau beitragen kann. Andererseits jedoch kann eine ständige Überwachung und Bewertung durch algorithmisches Management zu erheblichen psychischen Belastungen führen. Vor diesem Hintergrund befasst sich das „Kompetenzzentrum Künstliche Intelligenz und Big Data“ (KKI) am Institut für Arbeitsschutz (IFA) der Deutschen Gesetzlichen Unfallversicherung unter anderem mit der Forschung, Beratung und Normung zu vertrauenswürdiger KI und unterstützt bei der Entwicklung, Prüfung und Zertifizierung von KI-Systemen.
KI in der gesetzlichen Rentenversicherung
Auch im Bereich der Rentenversicherung werden Verfahren des algorithmischen Managements und Bots eingesetzt, um die Bearbeitung von Prozessen zu beschleunigen, Entscheidungen verlässlicher treffen zu können und Versicherten den Zugang zur Rentenversicherung zu erleichtern. Beispielhaft ist das erste KI-Projekt der Deutschen Rentenversicherung Bund (DRV Bund) zu nennen – „Künstliche Intelligenz für risikoorientierte Arbeitgeberprüfungen“ (KIRA). KIRA unterstützt bei Betriebsprüfungen, im Rahmen derer Mitarbeitende vom Betriebsprüfdienst der DRV Bund alle vier Jahre die korrekte Abgabe von Sozialabgaben kontrollieren. Angesichts der jährlich etwa 400.000 anfallenden Prüfungen bleibt den Mitarbeitenden kaum Zeit für eine vollumfängliche Kontrolle; vielmehr setzen sie Schwerpunkte und beschränken sich auf Stichproben. In Zukunft wird nun KIRA unterstützen, indem das System alle digital vorhandenen Daten der Unternehmen liest, nach Mustern sucht und Auffälligkeiten wie ungewöhnlich hohe oder niedrige Beiträge oder fehlende Nachweise in den Unterlagen kennzeichnet. Anhand dieser Informationen entscheiden Prüfdienstmitarbeitende, welche Fälle eine detailliertere Betrachtung verdienen und welche schnell abgeschlossen werden können. Wichtig ist, dass auch bei diesem Beispiel die Erfahrung der Mitarbeitenden und die menschliche Entscheidung unerlässlich sind. Das KI-System unterstützt lediglich und trägt so zu mehr Effizienz und einer Abfederung des Fachkräftemangels bei.
Während die Rentenversicherungsträger vermehrt KI-basierte Anwendungen einsetzen, sind die mittelbaren Auswirkungen durch den Einsatz von KI in der Arbeitswelt auf die Rentenversicherung eher beschränkt. Es lässt sich jedoch argumentieren, dass von regulierter, unterstützender KI generell zu erwarten ist, dass sie Arbeitsabläufe entzerrt, den Arbeitsalltag vereinfacht und so Stress bei Beschäftigten abbaut. Dies kann sich positiv auf ihre Gesundheit auswirken, wodurch gegebenenfalls krankheitsbedingte Ausfälle oder gar ein Ausscheiden aus der beruflichen Tätigkeit reduziert werden. Dies würde auch die Rentenversicherung entlasten durch eine geringere Inanspruchnahme von beispielsweise medizinischer Rehabilitation oder Erwerbsminderungsrenten.