Expertengruppe veröffentlicht Empfehlungen für Politik und Investitionen.

Eine von der Europäische Kommission eingesetzte Expertengruppe hat am 26. Juni 2019 Leitlinien für Politik und Investitionen für eine vertrauenswürdige Künstliche Intelligenz (KI) vorgelegt. Die Experten sprechen hierin 33 Empfehlungen aus, die eine vertrauenswürdige KI in Richtung Nachhaltigkeit, Wachstum und Wettbewerbsfähigkeit sowie Inklusion lenken und gleichzeitig Menschen stärken, fördern und schützen sollen.

Die Experten empfehlen allgemein einen risikobasierten Ansatz der Regulierung von KI unter Berücksichtigung von Verhältnismäßigkeit und Vorsorgeprinzip. Je höher die Auswirkung und / oder je größer die Wahrscheinlichkeit eines durch KI verursachten Risikos sei, desto stärker solle die Regulierung sein. Der Begriff „Risiko“ solle dabei weit gefasst werden, um alle nachteiligen Auswirkungen sowohl auf den Einzelnen als auch auf die Gesellschaft zu erfassen.

Für KI-Anwendungen, die ein inakzeptables Risiko bergen, sollte nach Ansicht der Experten hingegen ein vorbeugender "prinzipienbasierter" Ansatz gelten, d.h. Regulierungsbehörden sollten Vorsichtsmaßnahmen treffen, wenn z.B. wissenschaftliche Erkenntnisse über eine Gefahr für die Umwelt oder die menschliche Gesundheit vorliegen. Fragen zu den Arten von Risiken, die als inakzeptabel einzustufen seien, müssten nach einer offenen, transparenten und rechenschaftspflichtigen gesellschaftlichen Diskussion unter Berücksichtigung des europäischen Rechtsrahmens einschließlich der Charta der Grundrechte der Europäischen Union beraten und entschieden werden.

Auch im Bereich der Sozialversicherung - sei es im Bereich der Medizinversorgung oder im Bereich des Leistungsmanagements - wird die Bedeutung von KI zunehmen und eine Auseinandersetzung mit ihren Chancen, aber auch mit ihren Risiken sowie die Überprüfung der ethischen und rechtlichen Rahmenbedingung erforderlich machen.

Die veröffentlichten Empfehlungen ergänzen die im April vorgelegten Ethik-Leitlinien für eine vertrauenswürdige KI und erheben nicht den Anspruch, vollständig zu sein. Die Experten möchten hiermit lediglich die dringendsten Handlungsfelder angehen. Die Leitlinien enthalten Politik- und Investitionsempfehlungen für eine vertrauenswürdige KI, die an EU-Institutionen und die Mitgliedstaaten gerichtet sind. Die Expertengruppe ist der Ansicht, dass den EU-Institutionen und den Mitgliedstaaten als zentrale Akteure in der Datenwirtschaft, als Beschaffer vertrauenswürdiger KI-Systeme und als Maßstab für eine solide Regierungsführung eine Schlüsselrolle bei der Erreichung dieser Ziele zukommt.

Hintergrund

Die Europäische Kommission hat in ihrer Mitteilung „Künstliche Intelligenz für Europa“ ihre Vorstellungen für eine vertrauenswürdige und auf den Menschen ausgerichtete KI dargelegt. Die Vorstellungen der Kommission beruhen auf drei Pfeilern:

• der Erhöhung der öffentlichen und privaten Investition in KI, um ihre Akzeptanz zu steigern,
  
• der Vorbereitung auf die mit der Nutzung der KI verbundenen sozioökonomischen Veränderungen,
  
• die Gewährleistung eines angemessenen ethischen und rechtlichen Rahmens zum Schutz und zur Stärkung der europäischen Werte.
  

Die Kommission hatte daher eine Expertengruppe für Künstliche Intelligenz ins Leben gerufen. Die Expertengruppe soll die Umsetzung der europäischen Strategie für künstliche Intelligenz unterstützen und hierzu Ethik-Richtlinien sowie Strategie- und Investitionsempfehlungen im Zusammenhang mit KI erarbeiten.

Zu den im April veröffentlichten Ethik-Leitlinien hat die Europäische Kommission ein Anhörungsverfahren gestartet, mit dem allen Interessierten die Möglichkeit gegeben werden soll, Rückmeldung zur Bewertungsliste mit den wichtigsten Anforderungen an eine vertrauenswürdige KI zu geben. Das Projekt, an dem bereits über 300 Organisationen Interesse bekundet haben, läuft noch bis zum 1. Dezember 2019. Anfang 2020 möchte die Expertengruppe auf der Grundlage der Ergebnisse des Projektes die Bewertungsliste überprüfen und der Kommission gegebenenfalls weitere Schritte vorschlagen.