Verständigung im Trilog für die Anwendung künstlicher Intelligenz.

Die Unterhändlerinnen und Unterhändler vom Europäischen Parlament und Rat haben sich am Freitag, 8. Dezember, nach einem gut 36-stündigen Verhandlungsmarathon auf einen Kompromiss zur geplanten EU-Verordnung für Systeme mit Künstlicher Intelligenz (KI) verständigt. Der Kompromiss folgt dabei dem risikobasierten Ansatz des Gesetzentwurfs der Europäische Kommission vom 21. April 2021. Streitpunkte waren in der Schlussphase die Regulierung sogenannter Basismodelle der künstlichen Intelligenz, die beispielsweise ChatGPT zugrunde liegen, sowie die Möglichkeiten der biometrischen Überwachung.

Risikobasierter Ansatz

Die große Mehrheit der KI-Anwendungen fällt in die Kategorie mit minimalem Risiko, die keine Auflagen erfüllen müssen. Hierzu zählen KI-gestützte Empfehlungssysteme oder Filter. Dagegen gelten für als hochriskant eingestufte KI-Systeme strenge Anforderungen. Diese beziehen sich unter anderem auf Risikominderungssysteme, Datensatzqualität, Dokumentation, Informationen für die Nutzer und Aspekte der Cybersicherheit sowie auf die zwingend erforderliche menschliche Aufsicht. Zu solchen Hochrisiko-KI-Systemen zählen beispielsweise kritische Infrastrukturen, aber auch Systeme, die in den Bereichen Strafverfolgung, Grenzkontrolle, und Justiz eingesetzt werden.

Gefährliche Praktiken, die mit einem unannehmbaren Risiko einhergehen, wie der Einsatz von KI zur Manipulation des freien Willens oder für Social Scoring, sollen generell verboten werden. Untersagt wird auch Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen.

Transparenzverpflichtungen

Anbieter müssen Systeme so gestalten, dass synthetische Inhalte wie Audio-, Video-, Text- und Bildinhalte in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert gekennzeichnet werden und als solche erkannt werden können. So muss im Umgang mit KI-Systemen wie Chatbots für den Nutzern deutlich hervorgehen, dass sie es mit einer Maschine zu tun haben. Deepfakes und andere KI-generierte Inhalte müssen daher als solche gekennzeichnet werden, und die Nutzer müssen informiert werden, wenn Systeme zur biometrischen Kategorisierung oder Emotionserkennung verwendet werden.

Offenlegung von verwendeten Datenquellen

Für große sogenannte KI-Basismodelle, die auf einer umfangreichen Datenbasis trainiert werden und an eine breite Palette unterschiedlicher Aufgaben angepasst werden können, werden besondere Vorschriften erlassen. Damit soll die Transparenz entlang der Wertschöpfungskette sichergestellt werden. Es soll zudem ein neues Europäisches Amt für künstliche Intelligenz innerhalb der Europäischen Kommission eingerichtet werden. Dieses soll gemeinsam mit den zuständigen nationalen Marktüberwachungsbehörden die Durchführung und Durchsetzung der neuen Vorschriften für KI-Modelle überwachen.

Wie geht es weiter?

Die politische Einigung im Trilog muss nun noch vom Europäischen Parlament und vom Rat förmlich verabschiedet werden. 20 Tage nach der Veröffentlichung im Amtsblatt tritt das KI-Gesetz in Kraft und kommt zwei Jahre später zur Anwendung. Ausnahmen sind Verbote, die bereits nach sechs Monaten gelten, und Vorschriften für große Basismodelle, die nach zwölf Monaten anzuwenden sind.