AdobeStock /Сake78

Automatisierte Entscheidungen

Europäisches Parlament möchte Verbraucherschutz stärken

SW – 02/2020

Das Europäische Parlament strebt einen gemeinsamen Ansatz der EU für die Entwicklung automatisierter Entscheidungsprozesse an, um die Vorteile dieser Prozesse nutzen, jedoch die damit einhergehende Risiken sowie eine Fragmentierung des Binnenmarkts im Hinblick auf deren Regulierung vermeiden zu können. In seiner Entschließung zum Thema „Automatisierte Entscheidungsfindung: Gewährleistung des Verbraucherschutzes und des freien Verkehrs von Waren und Dienstleistungen“ sprechen sich die Abgeordneten für eine Stärkung der Verbraucherrechte und die Sicherstellung einer Überprüfung endgültiger und dauerhafter automatisierter Entscheidungen durch Menschen aus.

Vertrauen der Verbraucher

Das Europäische Parlament begrüßt die Möglichkeiten automatisierter Entscheidungen, vertritt jedoch die Ansicht, dass Verbraucher darüber informiert sein müssen, wenn sie mit einem solchen System interagieren. Ferner müssten sie wissen, wie dieses funktioniert, wie entscheidungsbefugte Personen erreicht werden können und wie sich Entscheidungen des Systems überprüfen und korrigieren lassen.


Wie auch die Expertengruppe der Kommission in ihren Ethik-Leitlinien für eine vertrauenswürdige Künstlichen Intelligenz (KI), legt das Parlament damit Wert auf eine Kontrolle und gegebenenfalls Letztentscheidung durch Menschen. Die Kommission wird aufgefordert, zu prüfen, ob Regelungslücken bestehen und ob über bereits bestehende Regelungen hinaus Maßnahmen erforderlich sind, um die Rechte der Verbraucher im Zusammenhang mit KI und automatisierter Entscheidungsfindung zu schützen.

Automatisierte Entscheidungen in der Sozialversicherung

Die Fragestellung des Vertrauens in automatisierte Entscheidungen und deren Überprüfungen könnte sich künftig auch zunehmend im Bereich der Sachbearbeitung der Sozialversicherungsträger stellen. So testet die schweizerische Unfallversicherung seit Herbst 2019 teilautomatisierte Prozesse, um Schadensfälle zu identifizieren, die den Unfallbegriff nach schweizerischem Recht erfüllen.


Aber auch auf die Sicherheit von Maschinen und die Interaktion zwischen Mensch und Maschine und damit auf Fragestellungen der Prävention am Arbeitsplatz werden automatisierte Entscheidungen Einfluss haben.

Sicherheit im Umgang mit Maschinen

Das Europäische Parlament weist darauf hin, dass Produkte, die über eine automatisierte Entscheidungsfindung verfügen, sich weiterentwickeln und in einer Art und Weise „handeln“ können, die beim ersten Inverkehrbringen nicht vorgesehen war.


Die Kommission wird aufgefordert, für eine Reihe von spezifischen europäischen Produktsicherheitsvorschriften, wie z.B. der Maschinenrichtlinie, sowie für „nicht harmonisierte Produkte“, die unter die Richtlinie über die allgemeine Produktsicherheit fallen, Vorschläge zur Anpassung der Sicherheitsvorschriften vorzulegen. Die Abgeordneten möchte hierdurch Nutzer und Verbraucher vor Schäden schützen und den Herstellern Klarheit über ihre Pflichten verschaffen.


Das Europäische Parlament hält in Anbetracht der Komplexität der verschiedenen Anwendungen von KI und automatisierten Entscheidungsfindungssystemen einen risikobasierten Reglungsansatz für erforderlich. Auch die Datenethikkommission empfiehlt in ihrem Gutachten im Auftrag der Bundesregierung einen risikoadaptierten Regulierungsansatz für algorithmische Systeme. Nach ihrer Vorstellung sollte dieser auf dem Grundsatz aufbauen, dass ein steigendes Schädigungspotenzial mit wachsenden Anforderungen und Eingriffstiefen der regulatorischen Instrumente einhergeht. Für die Beurteilung komme es jeweils auf das gesamte sozio-technische System an, also alle Komponenten einer algorithmischen Anwendung einschließlich aller menschlichen Akteure, von der Entwicklungsphase (z. B. hinsichtlich der verwendeten Trainingsdaten) bis hin zur Implementierung in einer Anwendungsumgebung und zur Phase von Bewertung und Korrektur.


Die Abgeordneten des Europäischen Parlaments fordern die Kommission auf, ein Risikobewertungssystem für KI und automatisierte Entscheidungsfindung zu entwickeln, um auf diese Weise für einen kohärenten Ansatz bei der Durchsetzung der Produktsicherheitsvorschriften im Binnenmarkt zu sorgen.

Nächste Schritte

Die Kommission hat, wie in ihrem Arbeitsprogramm angekündigt, am 19. Februar 2020 ein Weißbuch zur KI vorgelegt, um deren Entwicklung und Nutzung zu unterstützen. Gleichzeitig möchte sie jedoch auch die uneingeschränkte Achtung der europäischen Werte und Grundrechte sicherstellen. Mit Hilfe der KI könnten neue Lösungen für alte Probleme gefunden und eine Vielzahl verschiedener Arbeitsabläufe beschleunigt werden. Voraussetzung hierfür sei jedoch ein vertrauenswürdiges Ökosystem, das sich innerhalb klar definierter ethischer Grenzen entwickelt. Gleichzeitig hat sie eine öffentliche Konsultation zum Weißbuch eingeleitet, an der sich Interessierte bis zum 19. Mai 2020 beteiligen können.