Europäischer Rechtsrahmen soll Qualität und Einhaltung ethischer Prinzipien garantieren

Am 19. Februar hat die Europäische Kommission ein Weißbuch veröffentlicht zum Thema „Künstliche Intelligenz – ein europäisches Konzept für Intelligenz und Vertrauen“, COM(2020) 65 final.  Das Weißbuch vertieft den schon früher eingeschlagenen industrie- und standortpolitischen Pfad einer umfassenden Entwicklung und Förderung des Einsatzes von KI, einschließlich des Einsatzes von Big Data,  und schlägt hierzu ein koordiniertes europäisches Konzept vor. Das Weißbuch will hierzu die politischen Optionen aufzeigen, unter anderem auch auf den Sektoren „Gesundheitswesen“ und „öffentliche Verwaltungen“. Für jeden Sektor soll ein Programm zur Einführung von KI erarbeitet werden, das die Beschaffung von KI-Systemen fördert und dazu beiträgt, die öffentlichen Vergabeverfahren anzupassen.

Des Weiteren spricht sich die Kommission für einen „klaren europäischen Regulierungsrahmen“ aus, unter anderem zum Schutz der Bürger- und Grundrechte, einschließlich Datenschutz, Schutz der Privatsphäre, Nichtdiskriminierung und Verbraucherschutz. Eine länderspezifische Vorgehensweise dagegen leiste einer Fragmentierung des Binnenmarktes Vorschub.

Die Kommission geht ausführlich auf die verschiedenen Elemente eines gesteigerten Risikopotentials von KI ein, unter anderem den „Black Box-Effekt“, d.h. die schwere Nachvollziehbarkeit von Maßnahmen und Entscheidungen, die von oder mit Hilfe von KI gefällt werden. Derartige Besonderheiten von KI könnten die Anwendung und Durchsetzung bereits bestehender Rechtsvorschriften erschweren, etwa auf dem Feld der Nicht-Diskriminierung. Daher müssten diese Rechtsvorschriften möglicherweise angepasst werden.

Die Kommission möchte bei der Ausarbeitung einschlägiger Rechtsanpassungen einen „risikobasierten Ansatz“ einschlagen. Für Anwendungen ohne hohes Risiko sollen uneingeschränkt die bereits bestehenden EU-Vorschriften gelten. Für die Filterung der Anwendungen mit „hohem Risiko“ sei in einem ersten Schritt zu prüfen, ob man es mit einem Sektor zu tun habe, der typischerweise mit einem hohen Gefährdungspotential zu assoziieren sei – wie z.B. das Gesundheitswesen, soziale Sicherheit und Arbeitsverwaltungen. In einem zweiten Schritt sei dann nach der Schwere einer möglichen Beeinträchtigung oder Rechtsverletzung zu differenzieren.

Was die möglichen Ansätze künftiger Regelungen angeht, so zielen diese unter anderem auf die Qualität der Trainingsdaten (z.B. zu Vermeidung unerwünschter Diskriminierungen), die Sicherung der Rückverfolgbarkeit von Entscheidungen und Ergebnissen von KI, etwa durch Aufbewahrung der Trainingsdaten, sowie die Sicherung einer Letztverantwortung des Menschen bei wichtigen Entscheidungen.

Im Wege einer öffentlichen Konsultation bittet die Kommission um Stellungnahme zu den im Weißbuch enthaltenen Vorschlägen, einzureichen bis zum 19. Mai 2020. Das Weißbuch ist unter folgendem Link zugänglich.