Deutscher Umsetzungsprozess zum AI Act ist gestartet.

Die Vorschriften zu künstlicher Intelligenz (KI) der Verordnung (EU) 2024/1689 (AI Act) gelten ab dem 2. August 2026. Zur Durchführung der Verordnung musste jeder Mitgliedstaat der Europäischen Union (EU) bis zum 2. August 2025 mindestens eine notifizierende Behörde und eine Marktüberwachungsbehörde benennen. Deutschland konnte diesen Termin wegen der vorgezogenen Bundestagswahl nicht einhalten. Im August hat in Deutschland das Verfahren für ein nationales Umsetzungsgesetz – dem KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) – begonnen, in dessen Rahmen auch die zuständigen Behörden bestimmt werden.

Bundesnetzagentur als zentrale Anlaufstelle

Der Entwurf des Durchführungsgesetzes sieht die Bundesnetzagentur (BNetzA) als Marktüberwachungsbehörde, notifizierende Behörde, zentrale Anlaufstelle für die Europäische Kommission sowie Betreiberin einer Beschwerde- und Meldestelle vor. Außerdem soll bei der BNetzA das Koordinierungs- und Kompetenzzentrum KI-Verordnung (KoKIVO) eingerichtet werden, um die einheitliche Auslegung der horizontalen Rechtsfragen sicherzustellen und die Arbeit der zuständigen Behörden zu unterstützen. Dazu kann das KoKIVO im Einzelfall in ihrer Zuständigkeit betroffene Bundesbehörden einbinden und externen Sachverstand hinzuziehen, insbesondere das Bundesamt für Sicherheit in der Informationstechnik (BSI), das Bundeskartellamt und die Bundesdatenschutzbeauftragte.

Dezentrale KI-bezogene Marktüberwachung

Abgesehen davon setzt der Gesetzentwurf aus dem Bundesministerium für Digitales und Staatsmodernisierung (BMDS) auf eine dezentrale Aufsichtsstruktur. So sollen die bestehenden Fachaufsichten erhalten bleiben, indem die bereits zuständigen Behörden zusätzlich die KI-bezogene Marktüberwachung in den jeweiligen regulierten Bereichen übernehmen. Dies bedeutet, dass das Bundesinstitut für Arzneimittel und Medizinprodukte (BfArM) bei Medizinprodukten und In-vitro-Diagnostika oder die Marktüberwachungsbehörden der Länder im Bereich der Produktsicherheit zuständig blieben.

Neue Überwachungskammer für sensible Hochrisiko-KI

Ferner soll innerhalb der BNetzA eine Unabhängige Marktüberwachungskammer (UKIM) eingerichtet werden, die sensible Hochrisiko-KI-Anwendungen überwacht und dem Bundestag jährlich darüber Bericht erstattet. Dazu zählen KI-Systeme in den Bereichen Strafverfolgung, Migration, Asyl, Grenzkontrolle, Justiz und Demokratie. Diese besondere Vorsicht ist geboten, um sicherzustellen, dass zum Beispiel Polizeibehörden oder Justizministerien KI-Systeme nur unter Wahrung der Grundrechte einsetzen. Die vorgesehene Zuständigkeit der UKIM als Teil der BNetzA wird allerdings von den deutschen Landesdatenschutzbehörden kritisiert. Nach deren Ansicht widerspricht dies den Vorgaben des AI Act, wonach gerade die Datenschutzbehörden die Aufsicht über Hochrisiko-KI-Anwendungen in diesen sensiblen Bereichen haben sollten.

KI-Reallabore

Gemäß dem AI Act sollenKI‑Reallabore („regulatory sandboxes“) eine kontrollierte Umgebung bieten, um Innovation zu fördern und die Entwicklung, das Training, das Testen und die Validierung innovativer KI‑Systeme für einen begrenzten Zeitraum vor ihrem Inverkehrbringen oder ihrer Inbetriebnahme zu erleichtern. Die Mitgliedstaaten sollen bis zum 2. August 2026 mindestens ein solches KI-Reallabor einrichten. Im Gesetzentwurf ist die Einrichtung solcher KI-Reallabore unter anderem durch die BNetzA vorgesehen. Um Unternehmen und Behörden bei der Umsetzung des AI Act zu unterstützen, sieht der Gesetzentwurf außerdem einen KI-Service-Desk bei der BNetzA vor, der bereits seit Juli 2025 läuft.

Ausblick

Am 12. September hat das BMDS die Länder- und Verbändeanhörung zum nationalen Durchführungsgesetz des AI Act gestartet. Für das BMDS hat die Umsetzung des AI Act neben ersten Maßnahmen zum Bürokratieabbau in der Verwaltung sowie dem Deutschland-Stack und einer europäischen Brieftasche für die digitale Identität (EUDI Wallet) derzeit einen hohen Stellenwert. Diese Initiativen gelten als unumstritten und sollen zentrale Themen bei der Regierungsklausur Ende September sein.