Ausblick

Eine menschenzentrierte und vertrauenswürdige KI kann das Leben vieler erleichtern – das gilt für ihren Einsatz in der Arbeitswelt, im Gesundheitswesen und in der Sozialversicherung. Doch das Potenzial von KI-Anwendungen kann nur ausgeschöpft werden, wenn Fortschritte bei der Verfügbarkeit und beim Umfang von Daten erzielt werden. Eine ungenügende Datenbasis geht mit dem Risiko von Verzerrungen und damit von potenziellen Fehlentscheidungen von KI-Anwendungen einher, was insbesondere im Bereich der Verwaltung grundlegender Dienste und Leistungen ein nicht in Kauf zu nehmendes Risiko darstellt. Es ist deshalb weitgehender Konsens, dass beim Einsatz von KI die Verantwortung auf menschliche Entscheidungen und Handlungen zurückführbar sein muss, das heißt, dass ein Mensch die Letztverantwortung trägt und damit die KI lediglich eine Entscheidungshilfe darstellt.1

KI sollte europäische Werte achten und die Grundrechte der Menschen schützen. Zu diesem Ziel müssen Datenschutz und Nicht-Diskriminierung gewährleistet, auf Transparenz hingearbeitet, Risiken von KI identifiziert und KI entsprechend reguliert werden. Das KI-Gesetz ist der Anfang einer solchen Regulierung. Entsprechend der großen Aufgabe, die es bewältigen soll, ist das KI-Gesetz ein sehr umfangreiches Vorhaben. Bis zum Geltungsbeginn im August 2026 müssen mehr als 70 Durchführungs- und delegierte Rechtsakte ausgearbeitet werden, die die allgemeinen Regeln und Bestimmungen des Gesetzes konkretisieren. Auch die Umsetzungsfristen sind sehr anspruchsvoll. So müssen verbotene Systeme bereits Mitte Februar 2025 schrittweise abgeschafft werden. Parallel dazu arbeiten die Normungsorganisationen daran, Vertrauen zu stärken und technische Anforderungen mithilfe von Normen und Standards für KI zu beschreiben. Normen sollen als spezifizierendes Instrument genutzt werden, um Risiken zu erkennen und zu reduzieren. Mit dem Geltungsbeginn des KI-Gesetzes geht die Arbeit also erst richtig los.

Während der Umsetzung des KI-Gesetzes ist es zentral, die gesellschaftlichen Auswirkungen genau zu beobachten. Außerdem sollten die Sozialpartner und die Zivilgesellschaft in die Diskussion um die Erwartungen an und den Einsatz von KI einbezogen werden, um eine möglichst breite Mitsprache und Unterstützung zu erreichen. Dies gilt auch für die möglichst effiziente und effektive Ausgestaltung der Governance-Strukturen. Vor diesem Hintergrund hat sich die DRV Bund bei der Erarbeitung einer Werte-Charta für menschenfreundliche Automatisierung eingebracht, nach der für den Einsatz von KI der Mensch im Mittelpunkt stehen muss.2

Auch bei der Europäischen Kommission stehen die Zeichen nicht auf Stillstand. Kommissionspräsidentin Ursula von der Leyen hat im Mission Letter an die designierte Kommissarin Roxana Mînzatu einen Fokus auf die Auswirkungen der Digitalisierung in der Arbeitswelt gelegt und sie in diesem Zusammenhang aufgefordert, eine Initiative zum algorithmischen Management vorzulegen.3 Nach einer ersten sektorspezifischen Regulierung mit der Richtlinie zur Verbesserung der Arbeitsbedingungen in der Plattformarbeit zielt die angekündigte Initiative darauf ab, die Transparenz, Fairness und Verantwortlichkeit von Algorithmen in der Arbeitswelt insgesamt zu stärken. Auch hier wird es darum gehen, die neuen Möglichkeiten zur Optimierung von Arbeitsprozessen zu nutzen, ohne den Arbeits- und Gesundheitsschutz der Beschäftigten zu beeinträchtigen.