Neues EU-Gremium für Künstliche Intelligenz tagt zum ersten Mal.

Die Europäiche Union (EU) hat es sich zum Ziel gesetzt, die Möglichkeiten von künstlicher Intelligenz (KI) zu nutzen, gleichzeitig aber ihre sichere und verlässliche Anwendung sicherzustellen. Dies soll maßgeblich durch die Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-Gesetz) gewährleistet werden, die am 1. August 2024 in Kraft getreten ist. Im Rahmen der Umsetzung des KI-Gesetzes hat ein neues Europäisches Gremium für Künstliche Intelligenz am 10. September das erste Mal offiziell getagt. Basis für die Einrichtung des Gremiums sind Artikel 65 und 66 des KI-Gesetzes.

Zusammensetzung des KI-Gremiums

Das KI-Gremium setzt sich aus Vertreterinnen und Vertretern der Europäischen Kommission und der EU-Mitgliedstaaten zusammen. Außerdem ist der Europäische Datenschutzbeauftragte als Beobachter Teil des Gremiums. Vertreterinnen und Vertreter des Büros für Künstliche Intelligenz nehmen ebenfalls an Treffen des Gremiums teil, ohne sich jedoch an Abstimmungen zu beteiligen. Andere Behörden oder Stellen der EU oder der Mitgliedstaaten können nach Relevanz zu einzelnen Sitzungen des KI-Gremiums eingeladen werden. Den Vorsitz im KI-Gremium übernimmt eine Vertreterin oder ein Vertreter der Mitgliedstaaten.

Organisation des KI-Gremiums

Im Gremium gibt es zwei ständige Untergruppen, um einerseits Marktüberwachungsbehörden eine Plattform für Zusammenarbeit und Austausch zu bieten und andererseits Behörden über Angelegenheiten, die jeweils die Marktüberwachung und notifizierte Stellen betreffen, zu unterrichten. In Deutschland wurde als Marktüberwachungsbehörde die Bundesnetzagentur und als notifizierende Stelle die Deutsche Akkreditierungsstelle benannt. Darüber hinaus kann das KI-Gremium bei Bedarf weitere ständige oder nichtständige Untergruppen einrichten.

Aufgaben des KI-Gremiums

Laut KI-Gesetz soll das KI-Gremium die Kommission und die Mitgliedstaaten unterstützen und beraten, um die einheitliche und wirksame Anwendung des Gesetzes zu erleichtern. Mit diesem Ziel kann das KI-Gremium zum Beispiel Empfehlungen und schriftliche Stellungnahmen zu einschlägigen Fragen der Durchführung und Anwendung des KI-Gesetzes abgeben, unter anderem zur jährlichen Überprüfung der als Hochrisiko-KI-Systeme eingestuften Anwendungen, die das KI-Gesetz besonders streng reguliert.

Betroffenheit der Sozialversicherung

Als Hochrisiko-KI-Systeme werden KI-Systeme eingestuft, die in den Bereichen Zugänglichkeit und Inanspruchnahme von wesentlichen privaten und öffentlichen Diensten und Leistungen eingesetzt werden. Dies betrifft zum Beispiel KI-Systeme, die den Zugang zu Gesundheits- oder Rehabilitationsleistungen regeln. Die Vorschriften für solche Systeme umfassen die Einrichtung eines Risikomanagementsystems sowie Qualitätsmanagement- und Informationspflichten. Noch fallen keine von einzelnen Sozialversicherungsträgern eingesetzte Anwendungen in diese Kategorie der Hochrisiko-KI-Systeme. Dies könnte sich jedoch in Zukunft ändern, wenn etwa maschinelle Lernverfahren für die Prüfung eines Leistungsanspruchs eingesetzt werden.