Auch die öffentliche Verwaltung ist betroffen.

Am 19. Februar 2020 hatte die Europäische Kommission ein Weißbuch „Zur Künstlichen Intelligenz“ veröffentlicht, COM (2020) 65. Hierzu nahm die Europavertretung der Deutschen Sozialversicherung (DSV) im Rahmen einer öffentlichen Konsultation am 11. Juni 2020 ausführlich Stellung, diese finden Sie hier.

Nun hat am 21. April die EU-Kommission - als Teil eines Pakets - einen Verordnungsvorschlag zur Künstlichen Intelligenz (KI) vorgelegt. Das Regelwerk ist sehr detailliert und kann auch für die öffentliche Verwaltung weitreichende Auswirkungen haben.

KI kann mit erheblichen Risiken einhergehen, nicht zuletzt auch für die Verwirklichung der Grundrechte und den Grundsatz der Gleichbehandlung. Daher ist es wohl auch kein Zufall, dass im Verordnungsentwurf der umstrittene Komplex der „automatischen Gesichtserkennung“ ein hoher Stellenwert eingeräumt wird.

Die Kommission hat ihren schon im Weißbuch entwickelten „risikoorientierten“ Regulierungsansatz weiter ausgearbeitet und unterscheidet nun zwischen vier Stufen. Aus Sicht der Sozialversicherung sind die oberen beiden Risikostufen von besonderem Interesse.

Die höchste Risikostufe betrifft solche KI-Anwendungen, deren Einsatz rechtlich/gesellschaftlich als unakzeptabel angesehen wird und die daher verboten werden sollen. Sie beziehen sich vor allem auf „Social Scorings“. Die Formulierungen sind im Einzelnen nicht sehr präzise und werfen die Frage auf, bis zu welchem Grad und zu welchem Zweck die Erstellung von Persönlichkeitsprofilen noch zulässig ist.

Den Schwerpunkt des Verordnungsvorschlags bilden jedoch solche Anwendungen, die „nur“ als „hohes Risiko“ angesehen werden. Sie sind auch in Zukunft erlaubt, unterliegen allerdings einem strengen Korsett, unter anderem einer Reihe von Dokumentationspflichten. Sie sollen es den so genannten „Marktaufsichtsbehörden“ erlauben, die Einhaltung der Regeln der neuen Verordnung zu kontrollieren. Hierbei ist zu berücksichtigen, dass KI-Anwendungen auch einer strikten Kontrolle am Maßstab europäischer Grundrechte unterworfen werden, u.a. dem Verbot nicht gerechtfertigter Diskriminierungen. Der Ausgang solcher zwingend notwendig werdenden Prüfungen lässt sich schwer vorhersagen.  

Es kommt hinzu, dass der Vorschlag von einem sehr weit gefassten Begriff der Künstlichen Intelligenz ausgeht. Er würde wohl auch schon viele in der Vergangenheit eingesetzte Programme erfassen. Indirekt hat dies Binnenmarktkommissar Thierry Breton bestätigt mit der Formulierung „Künstliche Intelligenz begleitet uns seit Jahrzehnten, hat nun aber durch gewachsene Rechnerleistung neue Dimensionen erreicht“.

Die Begleitmitteilung vom selben Tag „Für einen europäischen Ansatz bei Künstlicher Intelligenz“, COM (2021) 205 final, verweist auf die herausragende Rolle von Künstlicher Intelligenz. Zuletzt habe diese ihr Potenzial im Kampf gegen COVID-19 bewiesen. Die EU plane, jährlich 1 Mrd. EUR in diese Technologie zu investieren. Hinzu kämen jährlich 20 Mrd. vom privaten Sektor und den Mitgliedstaaten, unterstützt durch den europäischen Aufbauplan. Ein enger Zusammenhang bestehe zur europäischen Datenstrategie einschließlich des vorgeschlagenen Daten-Governance Akts – KI könne nur gelingen, wenn ein Zugang zu Daten bestehe.

Als ein weiterer Teil des KI-Pakets revidierte die Kommission den im Jahr 2018 verabschiedeten Koordinierten Plan zu Künstlicher Intelligenz, s. COM (2021) 205 endg. Er fordert die Mitgliedstaaten auf, in KI zu investieren, einschließlich Infrastruktur und „Datenräume“. Ein europäisches Netz von „Exzellenzzentren“ soll Forschung und Innovation unterstützen. Schließlich soll die EU Vorreiter in strategischen Sektoren werden, darunter auch Gesundheit sowie dem öffentliche Sektor als Ganzes.